Category:コンピュータの算術
ハミング符号
Hamming code
ビット演算
Bitwise operation
ビット
Bit
モンゴメリ乗算
Montgomery modular multiplication
NaN
NaN
非正規化数
Subnormal number
テスト・アンド・セット
Test-and-set四倍精度浮動小数点数
Quadruple-precision floating-point format
Bf16
Bfloat16 floating-point format八進法
Octal
演算装置
Arithmetic logic unitブースの乗算アルゴリズム
Booth's multiplication algorithm
−0
Signed zero
ワード
Word (computer architecture)
ブロック浮動小数点
Block floating point
ニブル
Nibble
仮数
Significand
乗算器
Binary multiplier
七進法
Septenary
最下位ビット
Least significant bit
バレットの還元アルゴリズム
Barrett reduction
FPU
Floating-point unit
ミニフロート
Minifloat
半精度浮動小数点数
Half-precision floating-point format
桁上げ保存加算器
Carry-save adder
フェッチ・アンド・アッド
Fetch-and-add任意精度演算
Arbitrary-precision arithmetic
拡張倍精度浮動小数点数
Extended precision
