Similar to 倍精度浮動小数点数
Template:コンピュータの数値精度
0の0乗
Zero to the power of zero
3増し符号
Excess-3
Densely packed decimal
Densely packed decimal
FPU
Floating-point unit
IEEE 754
IEEE 754
NaN
NaN
アンパック10進数
演算装置
Arithmetic logic unit
オクテット (コンピュータ)
Octet (computing)
加算器
Adder (electronics)
仮数
Significand
カハンの加算アルゴリズム
Kahan summation algorithm
グレイコード
Gray code
計算機イプシロン
Machine epsilon
桁上げ保存加算器
Carry-save adder
固定小数点数
Fixed-point arithmeticコンピュータの数値表現
Computer number format
コンペア・アンド・スワップ
Compare-and-swap
算術オーバーフロー
Arithmetic overflow
十六進法
Hexadecimal
乗算器
Binary multiplier
除算 (デジタル)
Division algorithm
整数型
Integer (computer science)精度 (算術)
Precision (computer science)
テスト・アンド・セット
Test-and-set
七進法
Septenary
二五進法
Bi-quinary coded decimal
