Similar to 固定小数点数
カハンの加算アルゴリズム
Kahan summation algorithm
計算機イプシロン
Machine epsilon
桁上げ保存加算器
Carry-save adder
コンペア・アンド・スワップ
Compare-and-swap
最下位ビット
Least significant bit
最上位ビット
Most significant bit
算術オーバーフロー
Arithmetic overflow
乗算器
Binary multiplier
除算 (デジタル)
Division algorithmゼロ除算
Division by zero
テスト・アンド・セット
Test-and-set
ニブル
Nibble
倍精度浮動小数点数
Double-precision floating-point format
バイト (情報)
Byte
ハミング符号
Hamming code
バレットの還元アルゴリズム
Barrett reduction
バレルシフタ
Barrel shifter
非正規化数
Subnormal number
ビット演算
Bitwise operationブースの乗算アルゴリズム
Booth's multiplication algorithm
フェッチ・アンド・アッド
Fetch-and-add
符号拡張
Sign extension
ブロック浮動小数点
Block floating point
マスク (情報工学)
Mask (computing)
モンゴメリ乗算
Montgomery modular multiplication四倍精度浮動小数点数
Quadruple-precision floating-point format
ワード
Word (computer architecture)