Similar to ゼロ除算
固定小数点数
Fixed-point arithmetic
コンピュータの数値表現
Computer number format
コンペア・アンド・スワップ
Compare-and-swap
算術オーバーフロー
Arithmetic overflow
十六進法
Hexadecimal
乗算器
Binary multiplier
整数型
Integer (computer science)精度 (算術)
Precision (computer science)
テスト・アンド・セット
Test-and-set
七進法
Septenary
二五進法
Bi-quinary coded decimal
二進化十進表現
Binary-coded decimal
二進法
Binary number▲1 trends
ニブル
Nibble任意精度演算
Arbitrary-precision arithmetic
バイト (情報)
Byte
端数処理
Rounding
パック10進数
八進法
Octal
ハミング符号
Hamming code
バレットの還元アルゴリズム
Barrett reduction
バレルシフタ
Barrel shifter
半精度浮動小数点数
Half-precision floating-point format
非正規化数
Subnormal number
ビット
Bit
ビット演算
Bitwise operation
Bf16
Bfloat16 floating-point formatブースの乗算アルゴリズム
Booth's multiplication algorithm
