http://class.htu.cn/nla/chat5/sect5_1.htm 最速下降
http://class.htu.cn/nla/chat5/sect5_2.htm 共轭梯度
介绍和证明都很详细易懂，先收藏了，没时间仔细看粗略看了下。
最速下降法，是从一个正定对称阵构造出一个2次型多项式，求解多项式的最小值出的X值，来得到方程解，所谓最速下降就是给定X0，从该点寻找一个满足一定条件的下降方向和步长，重复执行这个步骤，直到解出为止。
共轭梯度是上述方法改进不在按照2次多项式的梯度方向作为下降方向，而是构造出一系列对于矩阵A共轭的向量。
我还没想明白，既然共轭梯度法已经不使用梯度方向作为下降方向为什么它还要叫共轭"梯度"。。。。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。