Category:コンピュータの算術
有効数字
Significant figures▲2 trendsビット
Bit浮動小数点数
Floating-point arithmetic十六進法
Hexadecimal0の0乗
Zero to the power of zero単精度浮動小数点数
Single-precision floating-point format二進法
Binary number加算器
Adder (electronics)演算装置
Arithmetic logic unitハミング符号
Hamming code倍精度浮動小数点数
Double-precision floating-point format符号付数値表現
Signed number representations算術オーバーフロー
Arithmetic overflowビット演算
Bitwise operation半精度浮動小数点数
Half-precision floating-point format非正規化数
Subnormal number2の補数
Two's complementゼロ除算
Division by zeroNaN
NaN固定小数点数
Fixed-point arithmetic仮数
Significand符号拡張
Sign extension1の補数
Ones' complementブースの乗算アルゴリズム
Booth's multiplication algorithm拡張倍精度浮動小数点数
Extended precisionコンピュータの数値表現
Computer number formatカハンの加算アルゴリズム
Kahan summation algorithm八進法
Octal