Category:コンピュータの算術
有効数字
Significant figures▲1 trendsNaN
NaN▲1 trendsグレイコード
Gray codeビット
Bit浮動小数点数
Floating-point arithmetic演算装置
Arithmetic logic unitビット演算
Bitwise operationハミング符号
Hamming code固定小数点数
Fixed-point arithmetic0の0乗
Zero to the power of zero整数型
Integer (computer science)計算機イプシロン
Machine epsilon二進法
Binary number単精度浮動小数点数
Single-precision floating-point format倍精度浮動小数点数
Double-precision floating-point format符号拡張
Sign extension符号付数値表現
Signed number representationsバレルシフタ
Barrel shifter非正規化数
Subnormal number拡張倍精度浮動小数点数
Extended precisionアンパック10進数
1の補数
Ones' complementワード
Word (computer architecture)3増し符号
Excess-3ブースの乗算アルゴリズム
Booth's multiplication algorithm仮数
Significandコンピュータの数値表現
Computer number formatカハンの加算アルゴリズム
Kahan summation algorithm