Category:コンピュータの算術
0の0乗
Zero to the power of zero
ゼロ除算
Division by zero
固定小数点数
Fixed-point arithmetic
最下位ビット
Least significant bit
十六進法
Hexadecimal
整数型
Integer (computer science)
ビット
Bit
−0
Signed zero
NaN
NaN
FPU
Floating-point unit
パック10進数
算術オーバーフロー
Arithmetic overflow
半精度浮動小数点数
Half-precision floating-point format任意精度演算
Arbitrary-precision arithmetic
カハンの加算アルゴリズム
Kahan summation algorithm
七進法
Septenary
ワード
Word (computer architecture)
コンペア・アンド・スワップ
Compare-and-swap
二進法
Binary number
符号属性
Signedness
3増し符号
Excess-3
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
