Similar to 高性能計算
硬い方程式
Stiff equation
カハンの加算アルゴリズム
Kahan summation algorithm
求根アルゴリズム
Root-finding algorithm
局所収束性
Local convergence
曲線あてはめ
Curve fitting
近似値
近似による誤差
Approximation error
クリロフ部分空間
Krylov subspace
計算機援用証明
Computer-assisted proof
計算格子
Mesh generation
ゲルシュゴリンの定理
Gershgorin circle theorem
ケンプナー級数
Kempner series格子気体法
Lattice gas automaton
構造格子
Regular grid
高速フーリエ変換
Fast Fourier transform
ウォルター・ゴーチ
Walter Gautschi
ジーン・ゴラブ
Gene H. Golub
最近傍探索
Nearest neighbor search
差分商
Difference quotient
差分法
Finite difference method
残差
Residual
次元の呪い
Curse of dimensionality
射影法
Projection method (fluid dynamics)
条件数
Condition number
シンプレクティック数値積分法
Symplectic integrator
数値積分
Numerical integration
数値線形代数
Numerical linear algebra
数値的安定性
Numerical stability