Similar to 0の0乗
FPU
Floating-point unitIEEE 754
IEEE 754NaN
NaNアンパック10進数
演算装置
Arithmetic logic unitオクテット (コンピュータ)
Octet (computing)拡張倍精度浮動小数点数
Extended precision加算器
Adder (electronics)仮数
Significandカハンの加算アルゴリズム
Kahan summation algorithm可変長数値表現
Variable-length quantityグレイコード
Gray code計算機イプシロン
Machine epsilon桁上げ保存加算器
Carry-save adder固定小数点数
Fixed-point arithmeticコンピュータの数値表現
Computer number formatコンペア・アンド・スワップ
Compare-and-swap最下位ビット
Least significant bit最上位ビット
Most significant bit算術オーバーフロー
Arithmetic overflow十六進法
Hexadecimal▲1 trends乗算器
Binary multiplier除算 (デジタル)
Division algorithm整数型
Integer (computer science)単精度浮動小数点数
Single-precision floating-point format▲1 trendsテスト・アンド・セット
Test-and-set七進法
Septenary二五進法
Bi-quinary coded decimal