Category:コンピュータの算術
有効数字
Significant figures▲1 trends
NaN
NaN
浮動小数点数
Floating-point arithmetic
ビット
Bit
グレイコード
Gray code
演算装置
Arithmetic logic unit
二進法
Binary number
ゼロ除算
Division by zero
ハミング符号
Hamming code
0の0乗
Zero to the power of zero
整数型
Integer (computer science)
加算器
Adder (electronics)
符号付数値表現
Signed number representations
固定小数点数
Fixed-point arithmetic1の補数
Ones' complement
仮数
Significand
倍精度浮動小数点数
Double-precision floating-point format
非正規化数
Subnormal number
計算機イプシロン
Machine epsilon
コンピュータの数値表現
Computer number format
単精度浮動小数点数
Single-precision floating-point format
バレルシフタ
Barrel shifter
拡張倍精度浮動小数点数
Extended precisionブースの乗算アルゴリズム
Booth's multiplication algorithm八進法
Octal
3増し符号
Excess-3
カハンの加算アルゴリズム
Kahan summation algorithm
ビット演算
Bitwise operation
