Category:コンピュータの算術
有効数字
Significant figures▲1 trends浮動小数点数
Floating-point arithmetic▲1 trendsゼロ除算
Division by zero▲1 trendsビット
Bit演算装置
Arithmetic logic unit▲1 trends倍精度浮動小数点数
Double-precision floating-point format加算器
Adder (electronics)単精度浮動小数点数
Single-precision floating-point format二進法
Binary number1の補数
Ones' complementハミング符号
Hamming code計算機イプシロン
Machine epsilon仮数
Significand半精度浮動小数点数
Half-precision floating-point format非正規化数
Subnormal number端数処理
Rounding▼-1 trends2の補数
Two's complementブースの乗算アルゴリズム
Booth's multiplication algorithm0の0乗
Zero to the power of zero八進法
Octalモンゴメリ乗算
Montgomery modular multiplication乗算器
Binary multiplierカハンの加算アルゴリズム
Kahan summation algorithm任意精度演算
Arbitrary-precision arithmeticグレイコード
Gray codeブロック浮動小数点
Block floating pointバレルシフタ
Barrel shifterコンペア・アンド・スワップ
Compare-and-swap