Category:コンピュータの算術
固定小数点数
Fixed-point arithmetic
二進化十進表現
Binary-coded decimal
単精度浮動小数点数
Single-precision floating-point format
倍精度浮動小数点数
Double-precision floating-point format
加算器
Adder (electronics)
端数処理
Rounding
ゼロ除算
Division by zero
有効数字
Significant figures
二進法
Binary number
十六進法
Hexadecimal
0の0乗
Zero to the power of zero
浮動小数点数
Floating-point arithmetic▼-1 trends