Category:コンピュータの算術
十六進法
Hexadecimal単精度浮動小数点数
Single-precision floating-point format浮動小数点数
Floating-point arithmetic2の補数
Two's complement固定小数点数
Fixed-point arithmetic0の0乗
Zero to the power of zeroハミング符号
Hamming code半精度浮動小数点数
Half-precision floating-point format二進化十進表現
Binary-coded decimal−0
Signed zero端数処理
Roundingコンペア・アンド・スワップ
Compare-and-swapカハンの加算アルゴリズム
Kahan summation algorithmBf16
Bfloat16 floating-point format可変長数値表現
Variable-length quantityパック10進数
計算機イプシロン
Machine epsilon七進法
Septenary3増し符号
Excess-3ブースの乗算アルゴリズム
Booth's multiplication algorithmフェッチ・アンド・アッド
Fetch-and-addTemplate:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimalIEEE 754
IEEE 754オクテット (コンピュータ)
Octet (computing)除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)