Similar to 浮動小数点数
1の補数
Ones' complement2の補数
Two's complement
Densely packed decimal
Densely packed decimal精度 (算術)
Precision (computer science)
固定小数点数
Fixed-point arithmetic
0.999...
0.999...
0の0乗
Zero to the power of zero
Abramowitz and Stegun
Abramowitz and Stegun
Annals of Mathematics
Annals of Mathematics
Axiom (数式処理システム)
Axiom (computer algebra system)Digital Library of Mathematical Functions
Digital Library of Mathematical Functions
E進法
INTLAB
INTLAB
Remezのアルゴリズム
Remez algorithm
SOR法
Successive over-relaxation
アフィン演算
Affine arithmetic
カハンの加算アルゴリズム
Kahan summation algorithm
−0
Signed zero
3増し符号
Excess-3
アンパック10進数
可変長数値表現
Variable-length quantity
グレイコード
Gray code
コンピュータの数値表現
Computer number format
十六進法
Hexadecimal
七進法
Septenary
二五進法
Bi-quinary coded decimal
二進化十進表現
Binary-coded decimal
二進法
Binary number
