Similar to 有効数字
端数処理
Rounding▲2 trends1の補数
Ones' complement2の補数
Two's complement▲1 trendsDensely packed decimal
Densely packed decimal測定
MeasurementJCSS
検出限界
Detection limit▲1 trends指数表記
Scientific notation▲1 trendsトレーサビリティ (計測器)
Parts-per表記
Parts-per notation量の次元
0.999...
0.999...▲1 trends0の0乗
Zero to the power of zero▲1 trendsE進法
−0
Signed zero3増し符号
Excess-3アンパック10進数
可変長数値表現
Variable-length quantityグレイコード
Gray code固定小数点数
Fixed-point arithmeticコンピュータの数値表現
Computer number format十六進法
Hexadecimal精度 (算術)
Precision (computer science)七進法
Septenary二五進法
Bi-quinary coded decimal二進化十進表現
Binary-coded decimal二進法
Binary number▲1 trendsパック10進数