前言
力求每行代码都有注释,重要部分注明公式来源。具体会追求下方这样的代码,学习者可以照着公式看程序,让代码有据可查。
如果时间充沛的话,可能会试着给每一章写一篇博客。先放个博客链接吧:传送门。
注:其中Mnist数据集已转换为csv格式,由于体积为107M超过限制,改为压缩包形式。下载后务必先将Mnist文件内压缩包直接解压。
实现
第二章 感知机:
博客:统计学习方法|感知机原理剖析及实现
实现:perceptron/perceptron_dichotomy.py
第三章 K近邻:
博客:统计学习方法|K近邻原理剖析及实现
实现:KNN/KNN.py
第四章 朴素贝叶斯:
博客:统计学习方法|朴素贝叶斯原理剖析及实现
实现:NaiveBayes/NaiveBayes.py
第五章 决策树:
博客:统计学习方法|决策树原理剖析及实现
实现:DecisionTree/DecisionTree.py
第六章 逻辑斯蒂回归与最大熵模型:
博客:逻辑斯蒂回归:统计学习方法|逻辑斯蒂原理剖析及实现
博客:最大熵:统计学习方法|最大熵原理剖析及实现
实现:逻辑斯蒂回归:Logistic_and_maximum_entropy_models/logisticRegression.py
实现:最大熵:Logistic_and_maximum_entropy_models/maxEntropy.py
第七章 支持向量机:
博客:统计学习方法|支持向量机(SVM)原理剖析及实现
实现:SVM/SVM.py
第八章 提升方法:
第九章 EM算法及其推广:
实现:EM/EM.py
第十章 隐马尔可夫模型:
实现:HMM/HMM.py