Category:コンピュータの算術
十六進法
Hexadecimal
単精度浮動小数点数
Single-precision floating-point format
浮動小数点数
Floating-point arithmetic2の補数
Two's complement
固定小数点数
Fixed-point arithmetic
0の0乗
Zero to the power of zero
ハミング符号
Hamming code
半精度浮動小数点数
Half-precision floating-point format
二進化十進表現
Binary-coded decimal
−0
Signed zero
端数処理
Rounding
コンペア・アンド・スワップ
Compare-and-swap
カハンの加算アルゴリズム
Kahan summation algorithm
Bf16
Bfloat16 floating-point format可変長数値表現
Variable-length quantity
パック10進数
計算機イプシロン
Machine epsilon
七進法
Septenary
3増し符号
Excess-3ブースの乗算アルゴリズム
Booth's multiplication algorithm
フェッチ・アンド・アッド
Fetch-and-add
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
