Category:コンピュータの算術
有効数字
Significant figures
加算器
Adder (electronics)
端数処理
Rounding
ゼロ除算
Division by zero
半精度浮動小数点数
Half-precision floating-point format
十六進法
Hexadecimal
二進法
Binary number
グレイコード
Gray code
ビット
Bit
倍精度浮動小数点数
Double-precision floating-point format
ハミング符号
Hamming code
整数型
Integer (computer science)
コンピュータの数値表現
Computer number format
最上位ビット
Most significant bit
ニブル
Nibble
仮数
Significand
符号付数値表現
Signed number representations
Bf16
Bfloat16 floating-point format
固定小数点数
Fixed-point arithmetic
ワード
Word (computer architecture)任意精度演算
Arbitrary-precision arithmetic
カハンの加算アルゴリズム
Kahan summation algorithm
単精度浮動小数点数
Single-precision floating-point format
テスト・アンド・セット
Test-and-set
FPU
Floating-point unit八進法
Octal
最下位ビット
Least significant bit四倍精度浮動小数点数
Quadruple-precision floating-point format
