Category:コンピュータの算術
十六進法
Hexadecimal
単精度浮動小数点数
Single-precision floating-point format
浮動小数点数
Floating-point arithmetic2の補数
Two's complement
固定小数点数
Fixed-point arithmetic
0の0乗
Zero to the power of zero
ハミング符号
Hamming code
−0
Signed zero
二進化十進表現
Binary-coded decimal
パック10進数
半精度浮動小数点数
Half-precision floating-point format
カハンの加算アルゴリズム
Kahan summation algorithm
コンペア・アンド・スワップ
Compare-and-swap可変長数値表現
Variable-length quantity
七進法
Septenary
3増し符号
Excess-3
フェッチ・アンド・アッド
Fetch-and-add
Bf16
Bfloat16 floating-point format
最下位ビット
Least significant bit
Template:コンピュータの数値精度
IEEE 754における負のゼロ
Densely packed decimal
Densely packed decimal
IEEE 754
IEEE 754
オクテット (コンピュータ)
Octet (computing)
除算 (デジタル)
Division algorithm精度 (算術)
Precision (computer science)
バイト (情報)
Byte
マスク (情報工学)
Mask (computing)
