Similar to 精度_(算術)
精度 (算術)
Precision (computer science)1の補数
Ones' complement2の補数
Two's complement
Densely packed decimal
Densely packed decimal
0の0乗
Zero to the power of zero
浮動小数点数
Floating-point arithmetic▼-1 trends
3増し符号
Excess-3
アンパック10進数
可変長数値表現
Variable-length quantity
グレイコード
Gray code
二五進法
Bi-quinary coded decimal
二進化十進表現
Binary-coded decimalパック10進数
符号付数値表現
Signed number representations
アッカーマン関数
Ackermann function
2の冪
Power of two
0.999...
0.999...
1+1+1+1+…
1 + 1 + 1 + 1 + ⋯
1/2 + 1/4 + 1/8 + 1/16 + ⋯
1/2 + 1/4 + 1/8 + 1/16 + ⋯1/2 − 1/4 + 1/8 − 1/16 + ⋯
1/2 − 1/4 + 1/8 − 1/16 + ⋯1/4 + 1/16 + 1/64 + 1/256 + ⋯
1/4 + 1/16 + 1/64 + 1/256 + ⋯
1/100
Hundredth
CFL条件
Courant–Friedrichs–Lewy condition
Digital Library of Mathematical Functions
Digital Library of Mathematical Functions
E (計算複雑性理論)
E (complexity)ESPACE
ESPACE
E進法
GIMPS
Great Internet Mersenne Prime Search
