Category:コンピュータの算術
有効数字
Significant figures▲1 trends
NaN
NaN
浮動小数点数
Floating-point arithmetic
ビット
Bit
グレイコード
Gray code
二進法
Binary number
演算装置
Arithmetic logic unit
倍精度浮動小数点数
Double-precision floating-point format
ゼロ除算
Division by zero
0の0乗
Zero to the power of zero
ハミング符号
Hamming code
整数型
Integer (computer science)
単精度浮動小数点数
Single-precision floating-point format
加算器
Adder (electronics)
固定小数点数
Fixed-point arithmetic
符号付数値表現
Signed number representations
計算機イプシロン
Machine epsilon
仮数
Significand1の補数
Ones' complement
非正規化数
Subnormal number
拡張倍精度浮動小数点数
Extended precision
十六進法
Hexadecimalブースの乗算アルゴリズム
Booth's multiplication algorithm八進法
Octal
パック10進数
半精度浮動小数点数
Half-precision floating-point formatアンパック10進数
3増し符号
Excess-3
