Category:コンピュータの算術
有効数字
Significant figures
加算器
Adder (electronics)
ゼロ除算
Division by zero
半精度浮動小数点数
Half-precision floating-point format
二進法
Binary number
0の0乗
Zero to the power of zero
端数処理
Rounding
倍精度浮動小数点数
Double-precision floating-point format
十六進法
Hexadecimal
テスト・アンド・セット
Test-and-set
最上位ビット
Most significant bit
グレイコード
Gray code
整数型
Integer (computer science)
コンピュータの数値表現
Computer number format任意精度演算
Arbitrary-precision arithmetic
ニブル
Nibble
FPU
Floating-point unit
Bf16
Bfloat16 floating-point format八進法
Octal
算術オーバーフロー
Arithmetic overflow四倍精度浮動小数点数
Quadruple-precision floating-point format
コンペア・アンド・スワップ
Compare-and-swap
カハンの加算アルゴリズム
Kahan summation algorithm
乗算器
Binary multiplier
符号付数値表現
Signed number representations
ワード
Word (computer architecture)
二五進法
Bi-quinary coded decimal
バレットの還元アルゴリズム
Barrett reduction
