Similar to 浮動小数点数
1の補数
Ones' complement2の補数
Two's complementDensely packed decimal
Densely packed decimal精度 (算術)
Precision (computer science)固定小数点数
Fixed-point arithmetic0.999...
0.999...▼-7 trends0の0乗
Zero to the power of zero▼-1 trendsAnnals of Mathematics
Annals of MathematicsAxiom (数式処理システム)
Axiom (computer algebra system)CFL条件
Courant–Friedrichs–Lewy conditionDigital Library of Mathematical Functions
Digital Library of Mathematical FunctionsE進法
INTLAB
INTLABRemezのアルゴリズム
Remez algorithmSOR法
Successive over-relaxationアフィン演算
Affine arithmeticAbramowitz and Stegun
Abramowitz and Stegunカハンの加算アルゴリズム
Kahan summation algorithm−0
Signed zero3増し符号
Excess-3アンパック10進数
可変長数値表現
Variable-length quantityグレイコード
Gray codeコンピュータの数値表現
Computer number format十六進法
Hexadecimal七進法
Septenary二五進法
Bi-quinary coded decimal二進化十進表現
Binary-coded decimal