Category:コンピュータの算術
0の0乗
Zero to the power of zeroゼロ除算
Division by zero固定小数点数
Fixed-point arithmetic最下位ビット
Least significant bit十六進法
Hexadecimal整数型
Integer (computer science)ビット
Bit−0
Signed zeroNaN
NaNFPU
Floating-point unitパック10進数
算術オーバーフロー
Arithmetic overflow半精度浮動小数点数
Half-precision floating-point format任意精度演算
Arbitrary-precision arithmeticカハンの加算アルゴリズム
Kahan summation algorithm七進法
Septenaryワード
Word (computer architecture)コンペア・アンド・スワップ
Compare-and-swap二進法
Binary number符号属性
Signedness3増し符号
Excess-3Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimalIEEE 754
IEEE 754オクテット (コンピュータ)
Octet (computing)除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)