Category:コンピュータの算術
アンパック10進数
七進法
Septenary
ビット演算
Bitwise operation
ブロック浮動小数点
Block floating point
拡張倍精度浮動小数点数
Extended precisionブースの乗算アルゴリズム
Booth's multiplication algorithm
演算装置
Arithmetic logic unit
二進化十進表現
Binary-coded decimal
計算機イプシロン
Machine epsilon
0の0乗
Zero to the power of zero
NaN
NaN▼-1 trends浮動小数点数
Floating-point arithmetic