Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic▲2 trends
有効数字
Significant figures▲1 trends
二進法
Binary number▲1 trends
端数処理
Rounding▲1 trends
十六進法
Hexadecimal▲1 trends
単精度浮動小数点数
Single-precision floating-point format▲1 trends
ゼロ除算
Division by zero▲1 trends
ビット
Bit▲1 trends
倍精度浮動小数点数
Double-precision floating-point format▲1 trends四倍精度浮動小数点数
Quadruple-precision floating-point format
ハミング符号
Hamming code▲1 trends
半精度浮動小数点数
Half-precision floating-point format
Bf16
Bfloat16 floating-point format
加算器
Adder (electronics)
グレイコード
Gray code
ビット演算
Bitwise operation
固定小数点数
Fixed-point arithmetic
ワード
Word (computer architecture)2の補数
Two's complement
最下位ビット
Least significant bit
二進化十進表現
Binary-coded decimal
NaN
NaN
演算装置
Arithmetic logic unit
仮数
Significand
0の0乗
Zero to the power of zero
七進法
Septenary
最上位ビット
Most significant bit
FPU
Floating-point unit