您好,欢迎光临本网站![请登录][注册会员]  

搜索资源列表

  1. 神经网络为什么需要随机初始化模型参数

  2. 在神经网络中,通常需要随机初始化模型参数。下面解释一下这样做的原因。 设有一个多层感知机模型,假设输出层只保留一个输出单元o1o_1o1​,且隐藏层使用相同的激活函数。如果将每个隐藏单元的参数都初始化为相等的值,那么在正向传播时每个隐藏单元将根据相同的输入计算出相同的值,并传递至输出层。 在反向传播中,每个隐藏单元的参数梯度值相等。因此,这些参数在使用基于梯度的优化算法迭代后值依然相等。之后的迭代也是如此。在这种情况下,无论隐藏单元有多少,隐藏层本质上只有一个隐藏单元在发挥作用。 因此,通常对神
  3. 所属分类:其它

    • 发布日期:2021-01-20
    • 文件大小:39kb
    • 提供者:weixin_38544781