Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic
単精度浮動小数点数
Single-precision floating-point format
倍精度浮動小数点数
Double-precision floating-point format
端数処理
Rounding
加算器
Adder (electronics)
グレイコード
Gray code
ゼロ除算
Division by zero
有効数字
Significant figures
NaN
NaN
整数型
Integer (computer science)
半精度浮動小数点数
Half-precision floating-point format
計算機イプシロン
Machine epsilon
テスト・アンド・セット
Test-and-set
非正規化数
Subnormal number任意精度演算
Arbitrary-precision arithmetic四倍精度浮動小数点数
Quadruple-precision floating-point format
符号付数値表現
Signed number representations
カハンの加算アルゴリズム
Kahan summation algorithmブースの乗算アルゴリズム
Booth's multiplication algorithm
モンゴメリ乗算
Montgomery modular multiplication
算術オーバーフロー
Arithmetic overflow
乗算器
Binary multiplier
最下位ビット
Least significant bit1の補数
Ones' complement八進法
Octal
二五進法
Bi-quinary coded decimal
十六進法
Hexadecimal
コンペア・アンド・スワップ
Compare-and-swap
