此处开始讲解一个算法来尝试优化神经网络结构的代价函数。 这是一个让代价函数最小化的算法——反向传播算法。 首先来看一下神经网络的代价函数： 要做的就是设法找到参数θ，使得J(θ)取到最小值，为了使用梯度下降法或者其他某种高级优化算法，需要做的就是写一段代码，这段代码获得输入参数θ，并计算J(θ)和这些偏导项： 神经网络里对应的参数Θ_ij^(l)∈R（都是实数）。 为了计算代价函数J(θ)，用下面这个公式： 我们大部分时间要重点关注如何计算这些偏导项： 我们从只有一个训练样本的情况

【李宏毅机器学习笔记】1、回归问题（Regression） 【李宏毅机器学习笔记】2、error产生自哪里？ 【李宏毅机器学习笔记】3、gradient descent 【李宏毅机器学习笔记】4、Classification 【李宏毅机器学习笔记】5、Logistic Regression 【李宏毅机器学习笔记】6、简短介绍Deep Learning 【李宏毅机器学习笔记】7、反向传播（Backpropagation） 【李宏毅机器学习笔记】8、Tips for Training DNN 【李宏