本文总结博客中关于机器学习十大算法的详细过程，进行汇总，包括广义线性模型、softmax 回归 、逻辑回归、梯度下降法、Logistic 回归与牛顿迭代法、两种梯度下降法、相对熵（KL 散度）、K-Means 聚类算法 、朴素贝叶斯分类、决策树之 ID3 算法 、决策树之 C4.5 算法、 决策树之 CART 算法、随机森林、K-D 树、KNN 算法、BFGS 算法、L-BFGS 算法、文本特征属性选择。 十九、矩阵求导解最小二乘问题 二十、局部加权回归 二十一、最小二乘的概率解释

本文来自于作者汪毅雄，本文用容易理解的语言和例子来解释了决策树三种常见的算法及其优劣、随机森林的含义，相信能帮助初学者真正地理解相关知识。决策树，是机器学习中一种非常常见的分类方法，也可以说是所有算法中最直观也最好理解的算法。先举个最简单的例子：A：你去不去吃饭？B：你去我就去。“你去我就去”，这是典型的决策树思想。再举个例子：有人找我借钱（当然不太可能。。。），借还是不借？我会结合根据我自己有没有钱、我自己用不用钱、对方信用好不好这三个特征来决定我的答案。我们把转到更普遍一点的视角，对于一些有

本文来自于作者汪毅雄，本文用容易理解的语言和例子来解释了决策树三种常见的算法及其优劣、随机森林的含义，相信能帮助初学者真正地理解相关知识。决策树，是机器学习中一种非常常见的分类方法，也可以说是所有算法中最直观也最好理解的算法。先举个最简单的例子：A：你去不去吃饭？B：你去我就去。“你去我就去”，这是典型的决策树思想。再举个例子：有人找我借钱（当然不太可能。。。），借还是不借？我会结合根据我自己有没有钱、我自己用不用钱、对方信用好不好这三个特征来决定我的答案。我们把转到更普遍一点的视角，对于一些有