Similar to モンゴメリ乗算
計算機イプシロン
Machine epsilon
桁上げ保存加算器
Carry-save adder
固定小数点数
Fixed-point arithmetic
コンピュータの数値表現
Computer number format
コンペア・アンド・スワップ
Compare-and-swap
最下位ビット
Least significant bit
最上位ビット
Most significant bit
算術オーバーフロー
Arithmetic overflow
十六進法
Hexadecimal
乗算器
Binary multiplier
除算 (デジタル)
Division algorithm
整数型
Integer (computer science)精度 (算術)
Precision (computer science)ゼロ除算
Division by zero
単精度浮動小数点数
Single-precision floating-point format
テスト・アンド・セット
Test-and-set
七進法
Septenary
二五進法
Bi-quinary coded decimal
二進化十進表現
Binary-coded decimal
二進法
Binary number
ニブル
Nibble任意精度演算
Arbitrary-precision arithmetic
倍精度浮動小数点数
Double-precision floating-point format
バイト (情報)
Byte
端数処理
Rounding
パック10進数
八進法
Octal
ハミング符号
Hamming code
