Similar to カハンの加算アルゴリズム
離散ウェーブレット変換
Discrete wavelet transform離散化
Discretization離散化誤差
Discretization error離散フーリエ変換
Discrete Fourier transform離散フーリエ変換 (一般)
Discrete Fourier transform over a ringリチャードソンの補外
Richardson extrapolation粒子フィルタ
Particle filterルンゲ=クッタ法
Runge–Kutta methodsルンゲ=クッタ法のリスト
List of Runge–Kutta methodsルンゲ=クッタ=フェールベルグ法
Runge–Kutta–Fehlberg method和分差分学
Discrete calculus電磁汎用AE法
Template:コンピュータの数値精度
IEEE 754における負のゼロ
−0
Signed zero3増し符号
Excess-3FPU
Floating-point unitIEEE 754
IEEE 754NaN
NaNアンパック10進数
演算装置
Arithmetic logic unitオクテット (コンピュータ)
Octet (computing)拡張倍精度浮動小数点数
Extended precision加算器
Adder (electronics)仮数
Significand可変長数値表現
Variable-length quantityグレイコード
Gray code計算機イプシロン
Machine epsilon