Similar to 有効数字
端数処理
Rounding1の補数
Ones' complement2の補数
Two's complement
Densely packed decimal
Densely packed decimal
測定
Measurement
JCSS
検出限界
Detection limit
指数表記
Scientific notation
心理物理量
トレーサビリティ (計測器)
Parts-per表記
Parts-per notation
量の次元
0.999...
0.999...
0の0乗
Zero to the power of zero
E進法
−0
Signed zero
3増し符号
Excess-3
アンパック10進数
可変長数値表現
Variable-length quantity
グレイコード
Gray code
固定小数点数
Fixed-point arithmetic
コンピュータの数値表現
Computer number format
十六進法
Hexadecimal精度 (算術)
Precision (computer science)
七進法
Septenary
二五進法
Bi-quinary coded decimal
二進化十進表現
Binary-coded decimal
二進法
Binary number
