Similar to 浮動小数点数
1の補数
Ones' complement2の補数
Two's complement
Densely packed decimal
Densely packed decimal精度 (算術)
Precision (computer science)
固定小数点数
Fixed-point arithmetic
0.999...
0.999...
0の0乗
Zero to the power of zero
Annals of Mathematics
Annals of Mathematics
Axiom (数式処理システム)
Axiom (computer algebra system)
CFL条件
Courant–Friedrichs–Lewy condition
Digital Library of Mathematical Functions
Digital Library of Mathematical Functions
Disquisitiones Arithmeticae
Disquisitiones Arithmeticae
DPLLアルゴリズム
DPLL algorithm
DTIME
DTIME
EXPSPACE
EXPSPACE
EXPTIME
EXPTIME
E進法

INTLAB
INTLAB
Remezのアルゴリズム
Remez algorithm
SOR法
Successive over-relaxation
アフィン演算
Affine arithmetic
Abramowitz and Stegun
Abramowitz and Stegun
カハンの加算アルゴリズム
Kahan summation algorithm
−0
Signed zero
3増し符号
Excess-3
アンパック10進数
可変長数値表現
Variable-length quantity
グレイコード
Gray code