文章目录1，介绍基本原理关于参数eta并不是所有函数都有唯一的极值点2，代码实现会用到的库原材料简单地梯度下降3，简单地封装一下关于参数4，线性回归的梯度下降法 1，介绍 基本原理 梯度下降 不是一个机器学习的算法 是一个基于搜索的最优化方法 作用：最小化一个损失函数 梯度上升法：最大化一个效用函数 （不管在最低点哪一侧都会是，都会是下降的） 关于参数eta 并不是所有函数都有唯一的极值点 解决方法： 多次运行，随机化初始点 梯度下降法的初始值也是一个超参数 2，代码实现 会用到的库