线性回归是机器学习中的基础算法之一,属于监督学习中的回归问题,算法的关键在于如何最小化代价函数,通常使用梯度下降或者正规方程(最小二乘法),在这里对算法原理不过多赘述,建议看吴恩达发布在斯坦福大学上的课程进行入门学习。
这里主要使用python的sklearn实现一个简单的单变量线性回归。
sklearn对机器学习方法封装的十分好,基本使用fit,predict,score,来训练,预测,评价模型,
一个简单的事例如下:
from pandas import DataFrame
from pa
Layer-wise Pruning and Auto-tuning of Layer-wise Learning Rates in Fine-tuning of Deep Networks
这篇论文是上个月刚出的关于剪枝方面的论文。作者:首尔大学团队
论文下载地址:https://arxiv.org/abs/2002.06048
Layer-wise剪枝+AutoLR:深度网络微调中的层级剪枝和层级学习率的自动调整。
该方法可以逐层剪枝和自动调整逐层学习率来提高微调性能并降低网络复杂性。
摘要