Similar to 端数処理
六十四進法
六進法
Senary
藁算
Warazan
割合
Rate (mathematics)
Template:八十華厳における命数
Template:コンピュータの数値精度
IEEE 754における負のゼロ
FPU
Floating-point unit
IEEE 754
IEEE 754
NaN
NaN
演算装置
Arithmetic logic unit
オクテット (コンピュータ)
Octet (computing)
拡張倍精度浮動小数点数
Extended precision
加算器
Adder (electronics)
仮数
Significand
カハンの加算アルゴリズム
Kahan summation algorithm
計算機イプシロン
Machine epsilon
桁上げ保存加算器
Carry-save adder
コンペア・アンド・スワップ
Compare-and-swap
最下位ビット
Least significant bit
最上位ビット
Most significant bit
算術オーバーフロー
Arithmetic overflow
乗算器
Binary multiplier
除算 (デジタル)
Division algorithm
整数型
Integer (computer science)ゼロ除算
Division by zero
単精度浮動小数点数
Single-precision floating-point format
テスト・アンド・セット
Test-and-set