Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic
単精度浮動小数点数
Single-precision floating-point format
倍精度浮動小数点数
Double-precision floating-point format
ゼロ除算
Division by zero
グレイコード
Gray code
端数処理
Rounding
加算器
Adder (electronics)
有効数字
Significant figures
NaN
NaN
整数型
Integer (computer science)
半精度浮動小数点数
Half-precision floating-point format
テスト・アンド・セット
Test-and-set
計算機イプシロン
Machine epsilon
十六進法
Hexadecimal
ハミング符号
Hamming code
符号付数値表現
Signed number representations
カハンの加算アルゴリズム
Kahan summation algorithm
ビット
Bit四倍精度浮動小数点数
Quadruple-precision floating-point format
0の0乗
Zero to the power of zero任意精度演算
Arbitrary-precision arithmetic
非正規化数
Subnormal number
モンゴメリ乗算
Montgomery modular multiplicationブースの乗算アルゴリズム
Booth's multiplication algorithm
演算装置
Arithmetic logic unit
乗算器
Binary multiplier八進法
Octal
二進化十進表現
Binary-coded decimal
