欠拟合和过拟合 训练误差和泛化误差 训练误差 ：训练集上的误差 泛化误差 ：测试集上的误差 训练误差的期望小于或等于泛化误差，因为一直在训练训练集。训练误差的降低不等于泛化误差的降低。但机器学习的真正目的是降低泛化误差。 模型选择 验证集 ：可以预留一部分在训练数据集和测试数据集以外的数据来进行模型选择。如从给定的训练集中选一些做验证集。 K折交叉验证 ： 节省数据。把原始训练数据集分割成