注册会员 | 设为首页 | 加入收藏夹
您好，欢迎光临本网站！[请登录] ！[注册会员]！  

搜索资源列表

  1. AI之过拟合、欠拟合及其解决方案

  2. 过拟合、欠拟合及其解决方案模型选择、过拟合和欠拟合训练误差和泛化误差模型选择验证数据集K折交叉验证过拟合和欠拟合模型复杂度训练数据集大小多项式函数拟合实验初始化模型参数定义、训练和测试模型三阶多项式函数拟合（正常）线性函数拟合（欠拟合）训练样本不足（过拟合）权重衰减方法L2L_2L2​范数正则化（regularization）高维线性回归实验从零开始的实现初始化模型参数定义L2范数惩罚项定义训练和测试观察过拟合使用权重衰减简洁实现丢弃法丢弃法从零开始的实现简洁实现 模型选择、过拟合和欠拟合 训练

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：223kb
    • 提供者：weixin_38649657

  1. Task03：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶

  2. Task03: 过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶 目录 Task03: 过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶 1、过拟合、欠拟合及其解决方案 1.1 训练误差和泛化误差 1.2 模型选择 1.3 过拟合和欠拟合 1.4 权重衰减 1.5 丢弃法 2、梯度消失、梯度爆炸 2.1 定义 2.2 随机初始化模型参数 2.3 考虑环境因素 3、循环神经网络进阶 3.1 门控循环单位（GRU） 3.2 长短期记忆（LSTM） 3.3 深度循环神经

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：695kb
    • 提供者：weixin_38575536

  1. 动手学深度学习 Task03 过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶

  2. 【一】过拟合、欠拟合及其解决方案 过拟合 模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 欠拟合 当模型无法得到较低的训练误差时，我们将这一现象称作欠拟合（underfitting）。 在实践中，我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟合问题，在这里重点讨论两个因素： 模型复杂度和训练数据集大小。 1.模型复杂度 为了解释模型复杂度，我们以多项式函数拟合为例。给定一个由标量数据特征 x 和对应的标量标签 y 组成的训练数据集

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：265kb
    • 提供者：weixin_38647517

  1. 过拟合、欠拟合、梯度消失与梯度爆炸-Task3

  2. 1. 过拟合、欠拟合及其解决方案 本节主要讲了3个点，1. 过拟合、欠拟合的概念 2. 权重衰减 3. 丢弃法 其中权重衰减只讲了L2正则化，其实还有L1正则化、L12正则化等。 丢弃法其实就是Dropout，只是翻译成了中文。 Inverted-Dropout Inverted-Dropout是实现 dropout 的方法。假设对第i层进i行 dropout： p = 0.8 di = np.random.rand(ai.shape[0], ai.shape[1]) < p ai = n

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：48kb
    • 提供者：weixin_38686677

  1. 伯禹AI – task03 过拟合、欠拟合及其解决方案 -梯度消失与爆炸、循环神经网络进阶

  2. 在介绍以上概念之前要理解 训练集、测试集与验证集的区分：     从严格意义上讲，测试集只能在所有超参数和模型参数选定后使用一次。不可以使用测试数据选择模型，如调参。由于无法从训练误差估计泛化误差，因此也不应只依赖训练数据选择模型。鉴于此，我们可以预留一部分在训练数据集和测试数据集以外的数据来进行模型选择。这部分数据被称为验证数据集，简称验证集（validation set）。例如，我们可以从给定的训练集中随机选取一小部分作为验证集，而将剩余部分作为真正的训练集。     训练误差（traini

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：254kb
    • 提供者：weixin_38608189

  1. Task03:过拟合、欠拟合及其解决方案/梯度消失、梯度爆炸/循环神经网络进阶

  2. 1 过拟合、欠拟合及其解决方案 训练误差和泛化误差 在解释上述现象之前，我们需要区分训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。计算训练误差和泛化误差可以使用之前介绍过的损失函数，例如线性回归用到的平方损失函数和softmax回归用到的交叉熵损失函数。 机器学习模型应关注降低泛化误差。 模型选择 验证数据集

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：753kb
    • 提供者：weixin_38722891

  1. 动手学深度学习——task3过拟合、欠拟合以及解决方案、梯度消失和梯度爆炸

  2. 过拟合和欠拟合的概念 过拟合：模型训练误差远小于在测试数据集上的误差，也就是说数据在训练时模型的预测效果好，但是在测试的数据上(要预测的新数据)不能很好的进行预测。 欠拟合：模型无法得到较低的训练误差，也就是说，在训练数据的过程中，就不能很好的对数据进行预测。 主要因素模型复杂度和训练数据集大小 模型复杂度 为了解释模型复杂，以简单多项式函数拟合为例。给定一个由标量数据特征 x 和对应的标量标签 y 组成的训练数据集，多项式函数拟合的目标是找一个 K 阶多项式函数来近似 y 。 在上式中，

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：133kb
    • 提供者：weixin_38538021

  1. 《动手学深度学习Pytorch版》Task3-过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸

  2. 过拟合、欠拟合 训练/泛化误差 训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 欠拟合 模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting） 过拟合 模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting） 容易引起过拟合、欠拟合的其中两个因素： 模

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：685kb
    • 提供者：weixin_38708461

  1. 《动手学pytorch》Task：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络

  2. 一、过拟合和欠拟合 训练误差和测试误差都大，欠拟合 underfitting。模型复杂度不够。 训练误差小于测试误差，过拟合 overfitting。 影响因素之一：训练数据集大小 影响欠拟合和过拟合的另一个重要因素是训练数据集的大小。一般来说，如果训练数据集中样本数过少，特别是比模型参数数量（按元素计）更少时，过拟合更容易发生。此外，泛化误差不会随训练数据集里样本数量增加而增大。因此，在计算资源允许的范围之内，我们通常希望训练数据集大一些，特别是在模型复杂度较高时，例如层数较多的深度学习模型

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：242kb
    • 提供者：weixin_38646659

  1. Task03：过拟合、欠拟合及其解决方案学习笔记

  2. 过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 在解释上述现象之前，我们需要区分训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。计算训练误差和泛化误差可以使用之前介绍过的损失函数，例如线性回归用到的平方损失函数和softmax回归用到的交叉熵损失函

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：106kb
    • 提供者：weixin_38727199

  1. 过拟合、欠拟合学习笔记

  2. 探究模型训练中经常出现的两类典型问题： 一类是欠拟合，另一类是过拟合. 1.欠拟合 模型无法得到较低的训练误差，将这一现象成为欠拟合. 2.过拟合 模型的训练误差远小于它在测试集上的误差，称这一现象为过拟合. 可能导致这两种拟合问题的因素有很多，比如模型复杂度和训练集大小. 模型复杂度 随着模型复杂度增加，训练误差波动降低，平均训练误差降低趋向于0，而测试误差波动上升，平均测试误差先降低后升高。这个现象说明训练误差不能代替测试误差来作为模型选择和评价的手段。随着模型复杂度变化，训练误差与测试误差

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：38kb
    • 提供者：weixin_38726441

  1. 动手学 task03 过拟合、欠拟合及其解决方案+梯度消失、梯度爆炸+循环神经网络进阶

  2. 过拟合、欠拟合及其解决方案 过拟合和欠拟合 一类是模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting）； 另一类是模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 在实践中，我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟合问题，在这里我们重点讨论两个因素：模型复杂度和训练数据集大小。 模型复杂度与过拟合、欠拟合的关系如下图： 训练数据集大小： 影响欠拟合和过拟合的另一个重要因素是训练数据集的大小。一般来

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：50kb
    • 提供者：weixin_38749305

  1. 《动手学深度学习》Task03 ：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶

  2. 一、模型选择、过拟合和欠拟合 模型选择 验证数据集 从严格意义上讲，测试集只能在所有超参数和模型参数选定后使用一次。不可以使用测试数据选择模型，如调参。由于无法从训练误差估计泛化误差，因此也不应只依赖训练数据选择模型。鉴于此，我们可以预留一部分在训练数据集和测试数据集以外的数据来进行模型选择。这部分数据被称为验证数据集，简称验证集（validation set）。例如，我们可以从给定的训练集中随机选取一小部分作为验证集，而将剩余部分作为真正的训练集。 K折交叉验证 由于验证数据集不参与模型训练，

  3. 所属分类：其它

  1. task03过拟合、欠拟合

  2. 过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 在解释上述现象之前，我们需要区分训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。计算训练误差和泛化误差可以使用之前介绍过的损失函数，例如线性回归用到的平方损失函数和softmax回归用到的交叉熵损失函

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：97kb
    • 提供者：weixin_38555304

  1. 《动手学深度学习：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶》

  2. 过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 简洁实现 def fit_and_plot_pytorch(wd): # 对权重参数衰减。权重名称一般是以weight结尾 net = nn.Linear(num_inputs, 1) nn.init.normal_(net.weight, mean=0, std=1) nn.init.normal_(net.bias, mean=0, std=1) optimizer_w = torc

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：25kb
    • 提供者：weixin_38674616

  1. Deep Learning_Task3_过拟合、欠拟合/梯度消失、梯度爆炸/循环神经网络进阶

  2. 一、过拟合、欠拟合及其解决方案 ·模型选择、过拟合和欠拟合 训练误差(training error)：模型在训练数据集上表现出来的误差 泛化误差(generalization error)：模型在任意一个测试样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似 计算训练误差和泛化误差可以使用损失函数，比如平方损失函数和交叉熵损失函数等 模型选择 验证数据集 在严格意义上，测试集只能在所有超参数和模型参数选定后使用一次，不可以使用测试数据选择模型，如调参；而由于无法通过训练误差估计泛化误差

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：324kb
    • 提供者：weixin_38646914

  1. 过拟合、欠拟合 & 梯度消失、梯度爆炸 & 循环神经网络进阶

  2. 过拟合、欠拟合 过拟合、欠拟合的概念 权重衰减 丢弃法 训练误差与泛化误差 训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 模型选择 min⁡θ1N∑i=1NL(yi,fθ(xi))+λ∣∣θ∣∣2\min_{\theta}\frac{1}{N}\sum_{i=1}^{N}L(y_i,f_{\theta}(x_

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：127kb
    • 提供者：weixin_38544152

  1. 过拟合、欠拟合、梯度消失及梯度爆炸的理解

  2. 目录：         1，过拟合和欠拟合的定义         2， 过拟合和欠拟合的解决方法         3， 梯度消失和爆炸的定义         4，梯度消失和爆炸的解决方法 1，过拟合和欠拟合的定义          无论在机器学习还是深度学习建模当中都可能会遇到两种最常见结果，一种叫过拟合（over-fitting ）另外一种叫欠拟合（under-fitting）。                                          所谓过拟合（over-fitti

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：135kb
    • 提供者：weixin_38685521

  1. 过拟合与欠拟合、梯度消失与爆炸、RNN进阶

  2. 过拟合与欠拟合 专业名词解释： 泛化误差（generalization error）：指模型在任意一个测试数据样本上表现出来的误差的期望，我们通常用测试集上的误差来近似看待. 验证集（validation set）：预留一部分训练数据集出来用于验证和看模型的表现结果，并用来进行模型选择 K折交叉验证（K-fold cross-validation）：针对训练数据不够用时的一种改善方法。把原始训练数据集分割成不重合的K份子数据集，然后做K次的训练和验证，最后对这K次的训练误差和验证误差分别求平均

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：314kb
    • 提供者：weixin_38717171

  1. 过拟合、欠拟合

  2. 过拟合和欠拟合 训练误差和泛化误差 训练误差，模型在训练集合上表现的误差。 泛化误差 ，模型在任意一个数据集上表现出来的误差的期望。 过拟合，模型训练误差远小于在测试集上的误差。 欠拟合 ，模型无法在训练集上得到较低的训练误差。 如何判断过拟合和欠拟合 现在常用的判断方法是从训练集中随机选一部分作为一个验证集，采用K折交叉验证的方式。把原始训练数据集分割成K个不重合的子数据集，然后我们做K次模型训练和验证。每一次，我们使用一个子数据集验证模型，并使用其他K-1个子数据集来训练模型。在这K次训练和

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：58kb
    • 提供者：weixin_38517113
« 12 3 4 5 6 7 »