/lihang_book_algorithm

致力于将李航博士《统计学习方法》一书中所有算法实现一遍

Primary LanguagePython

lihang_book_algorithm

哇!看到有人star这个项目了 本来打算把这个项目当成一个备份的 但既然有人star了,那么就要好好对待啦!!!

简介

我这里不介绍任何机器学习算法的原理,只是将《统计学习方法》中每一章的算法用我自己的方式实现一遍。 除了李航书上的算法外,还实现了一些其他机器学习的算法。

那么我们就按章节来了

章节

第二章 感知器模型

博客:李航《统计学习方法》第二章——用Python实现感知器模型(MNIST数据集)
代码:perceptron/binary_perceptron.py

第三章 K近邻法

博客:李航《统计学习方法》第三章——用Python实现KNN算法(MNIST数据集)
代码:knn/knn.py

第四章 朴素贝叶斯

博客:李航《统计学习方法》第四章——用Python实现朴素贝叶斯分类器(MNIST数据集)
代码:naive_bayes/naive_bayes.py

第五章 决策树

博客:李航《统计学习方法》第五章——用Python实现决策树(MNIST数据集)
代码:decision_tree/decision_tree.py

第六章 逻辑斯提回归

博客:李航《统计学习方法》第六章——用Python实现逻辑斯谛回归(MNIST数据集)
代码:logistic_regression/logistic_regression.py

第六章 最大熵模型

博客:李航《统计学习方法》第六章——用Python实现最大熵模型(MNIST数据集)
代码:maxENT/maxENT.py

第七章 支持向量机

博客:李航《统计学习方法》第七章——用Python实现支持向量机模型(伪造数据集)
代码:svm/svm.py

第八章 提升方法

博客:李航《统计学习方法》第八章——用Python+Cpp实现AdaBoost算法(MNIST数据集)
纯Python代码:AdaBoost/adaboost.py
Python C++代码:AdaBoost/adaboost_cpp.py,AdaBoost/Sign/Sign/sign.h,AdaBoost/Sign/Sign/sign.cpp

第九章 EM算法及其推广

正在施工中...

额外章节

###softmax分类器 博客:python 实现 softmax分类器(MNIST数据集)
代码:softmax/softmax.py