Similar to 乗算器
コンピュータの数値表現
Computer number format
コンペア・アンド・スワップ
Compare-and-swap
最下位ビット
Least significant bit
最上位ビット
Most significant bit
算術オーバーフロー
Arithmetic overflow
十六進法
Hexadecimal
除算 (デジタル)
Division algorithm
整数型
Integer (computer science)精度 (算術)
Precision (computer science)ゼロ除算
Division by zero
単精度浮動小数点数
Single-precision floating-point format
テスト・アンド・セット
Test-and-set
七進法
Septenary
二五進法
Bi-quinary coded decimal
二進化十進表現
Binary-coded decimal
二進法
Binary number
ニブル
Nibble任意精度演算
Arbitrary-precision arithmetic
倍精度浮動小数点数
Double-precision floating-point format
バイト (情報)
Byte
端数処理
Rounding
パック10進数
八進法
Octal
ハミング符号
Hamming code
バレットの還元アルゴリズム
Barrett reduction
半精度浮動小数点数
Half-precision floating-point format
非正規化数
Subnormal number
ビット
Bit
