Category:コンピュータの算術
有効数字
Significant figures▲1 trends
NaN
NaN▲1 trends
グレイコード
Gray code
ビット
Bit
浮動小数点数
Floating-point arithmetic
演算装置
Arithmetic logic unit
ビット演算
Bitwise operation
ハミング符号
Hamming code
固定小数点数
Fixed-point arithmetic
0の0乗
Zero to the power of zero
整数型
Integer (computer science)
計算機イプシロン
Machine epsilon
二進法
Binary number
単精度浮動小数点数
Single-precision floating-point format
倍精度浮動小数点数
Double-precision floating-point format
符号拡張
Sign extension
符号付数値表現
Signed number representations
バレルシフタ
Barrel shifter
非正規化数
Subnormal number
拡張倍精度浮動小数点数
Extended precision
アンパック10進数
1の補数
Ones' complement
ワード
Word (computer architecture)
3増し符号
Excess-3ブースの乗算アルゴリズム
Booth's multiplication algorithm
仮数
Significand
コンピュータの数値表現
Computer number format
カハンの加算アルゴリズム
Kahan summation algorithm