Similar to 端数処理
Annals of Mathematics
Annals of MathematicsAxiom (数式処理システム)
Axiom (computer algebra system)E進法
−0
Signed zero3増し符号
Excess-3アンパック10進数
可変長数値表現
Variable-length quantityグレイコード
Gray code▲1 trends固定小数点数
Fixed-point arithmeticコンピュータの数値表現
Computer number format十六進法
Hexadecimal精度 (算術)
Precision (computer science)七進法
Septenary二五進法
Bi-quinary coded decimal二進化十進表現
Binary-coded decimal二進法
Binary numberパック10進数
八進法
Octal符号付数値表現
Signed number representations浮動小数点数
Floating-point arithmetic0
01
12
23
34
45
56
67
7