反向传播:代码演示篇概述正文1、从零开始2、借助深度学习框架
概述
本节继上一节反向传播:公式推导篇的代码演示,本节将从零开始演示反向传播训练参数的整个过程,除此之外还将使用TF2.0来进行快速求导作为拓展演示。
正文
首先想一下训练模型的步骤:
1、创建一个模型
2、准备好模型的输入,以及标签
3、损失函数根据模型的输出以及标签求出损失值
4、求损失函数对各个参数的偏导
5、根据求出的偏导数值更新参数
1、从零开始
由于是从零开始,所以这里我们使用一个非常简单的模型g(a,x,y)以方便求偏导