Category:コンピュータの算術
0の0乗
Zero to the power of zero
グレイコード
Gray code2の補数
Two's complement▲1 trends
倍精度浮動小数点数
Double-precision floating-point format
ハミング符号
Hamming code
非正規化数
Subnormal number
ビット演算
Bitwise operation
半精度浮動小数点数
Half-precision floating-point format
加算器
Adder (electronics)
乗算器
Binary multiplierブースの乗算アルゴリズム
Booth's multiplication algorithm
計算機イプシロン
Machine epsilon任意精度演算
Arbitrary-precision arithmetic
端数処理
Rounding▲1 trends
テスト・アンド・セット
Test-and-set
固定小数点数
Fixed-point arithmetic
演算装置
Arithmetic logic unit
ワード
Word (computer architecture)
コンペア・アンド・スワップ
Compare-and-swap
ビット
Bit
Bf16
Bfloat16 floating-point format
符号付数値表現
Signed number representations
七進法
Septenary
モンゴメリ乗算
Montgomery modular multiplication
桁上げ保存加算器
Carry-save adder四倍精度浮動小数点数
Quadruple-precision floating-point format
符号拡張
Sign extension八進法
Octal
