Category:コンピュータの算術
浮動小数点数
Floating-point arithmetic▲1 trends
単精度浮動小数点数
Single-precision floating-point format
ゼロ除算
Division by zero▲1 trends
倍精度浮動小数点数
Double-precision floating-point format
端数処理
Rounding
加算器
Adder (electronics)
半精度浮動小数点数
Half-precision floating-point format
有効数字
Significant figures
グレイコード
Gray code
整数型
Integer (computer science)
NaN
NaN
十六進法
Hexadecimal
テスト・アンド・セット
Test-and-set
0の0乗
Zero to the power of zero
ビット
Bit四倍精度浮動小数点数
Quadruple-precision floating-point format任意精度演算
Arbitrary-precision arithmetic
ビット演算
Bitwise operation
符号付数値表現
Signed number representationsブースの乗算アルゴリズム
Booth's multiplication algorithm
二進化十進表現
Binary-coded decimal
算術オーバーフロー
Arithmetic overflow
モンゴメリ乗算
Montgomery modular multiplication
最下位ビット
Least significant bit
非正規化数
Subnormal number
固定小数点数
Fixed-point arithmetic
最上位ビット
Most significant bit
演算装置
Arithmetic logic unit
