Similar to 計算機イプシロン
0の0乗
Zero to the power of zero1+1+1+1+…
1 + 1 + 1 + 1 + ⋯1の補数
Ones' complement1/2 + 1/4 + 1/8 + 1/16 + ⋯
1/2 + 1/4 + 1/8 + 1/16 + ⋯1/2 − 1/4 + 1/8 − 1/16 + ⋯
1/2 − 1/4 + 1/8 − 1/16 + ⋯1/4 + 1/16 + 1/64 + 1/256 + ⋯
1/4 + 1/16 + 1/64 + 1/256 + ⋯2の補数
Two's complement1/100
HundredthCFL条件
Courant–Friedrichs–Lewy conditionDensely packed decimal
Densely packed decimalE (計算複雑性理論)
E (complexity)ESPACE
ESPACEGIMPS
Great Internet Mersenne Prime Search10.5インチiPad Pro
FPU
Floating-point unit0
0▼-1 trends1
1▲8 trends2
23
34
45
56
67
78
89
91048576
12345679
数学
Mathematics