Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic
有効数字
Significant figures
二進法
Binary number
グレイコード
Gray code2の補数
Two's complement
加算器
Adder (electronics)
二進化十進表現
Binary-coded decimal
ゼロ除算
Division by zeroブースの乗算アルゴリズム
Booth's multiplication algorithm
整数型
Integer (computer science)
七進法
Septenary
NaN
NaN
ビット
Bit
演算装置
Arithmetic logic unit
最上位ビット
Most significant bit
ニブル
Nibble1の補数
Ones' complement
乗算器
Binary multiplier
モンゴメリ乗算
Montgomery modular multiplication
バレルシフタ
Barrel shifter
符号付数値表現
Signed number representations
算術オーバーフロー
Arithmetic overflow
固定小数点数
Fixed-point arithmetic
−0
Signed zero
符号拡張
Sign extension
Bf16
Bfloat16 floating-point format
ビット演算
Bitwise operation
仮数
Significand