Similar to 非線形共役勾配法
鏡像降下法
Mirror descent近接勾配法
Proximal gradient method座標降下法
Coordinate descentバルジライ・ボールウェイン法
Barzilai-Borwein methodフランク・ウルフのアルゴリズム
Frank–Wolfe algorithmBFGS法
Broyden–Fletcher–Goldfarb–Shanno algorithmBHHH法
Berndt–Hall–Hall–Hausman algorithmCMA-ES
CMA-ESL-BFGS法
Limited-memory BFGSSR1法
Symmetric rank-oneアウトオブキルタ法
Out-of-kilter algorithmアフィンスケーリング法
Affine scaling0
0▲3 trends1
1▲1 trends2
2▲1 trends3
34
4▲1 trends5
56
6▲1 trends7
78
89
912345679
勾配法
Gradient method確率的勾配降下法
Stochastic gradient descent共役勾配法
Conjugate gradient method勾配消失問題
Vanishing gradient problem最急降下法
Gradient descent