刘建平Pinard的博客配套代码

之前不少朋友反应我博客中的代码都是连续的片段，不好学习，因此这里把文章和代码做一个整理。代码有部分来源于网络，已加上相关方版权信息。部分为自己原创，已加上我的版权信息。

注意

2016-2017年写的博客使用的python版本是2.7， 2018年因为TensorFlow对Python3的一些要求，所以写博客使用的Python版本是3.6。少部分2016，2017年的博客代码无法找到，重新用Python3.6跑过上传，因此可能会出现和博客中代码稍有不一致的地方，主要涉及到print的语法和range的用法，若遇到问题，稍微修改即可跑通。

强化学习文章与代码：:

文章	代码
强化学习（一）模型基础	代码
强化学习（二）马尔科夫决策过程(MDP)	无
强化学习（三）用动态规划（DP）求解	无
强化学习（四）用蒙特卡罗法（MC）求解	无
强化学习（五）用时序差分法（TD）求解	无
强化学习（六）时序差分在线控制算法SARSA	代码
强化学习（七）时序差分离线控制算法Q-Learning	代码

机器学习基础与回归算法文章与代码：

文章	代码
梯度下降（Gradient Descent）小结	无
最小二乘法小结	无
交叉验证(Cross Validation)原理小结	无
精确率与召回率，RoC曲线与PR曲线	无
线性回归原理小结	无
机器学习研究与开发平台的选择	无
scikit-learn 和pandas 基于windows单机机器学习环境的搭建	无
用scikit-learn和pandas学习线性回归	代码
Lasso回归算法：坐标轴下降法与最小角回归法小结	无
用scikit-learn和pandas学习Ridge回归	代码1 代码2
scikit-learn 线性回归算法库小结	无
异常点检测算法小结	无

机器学习分类算法文章与代码：

文章	代码
逻辑回归原理小结	无
scikit-learn 逻辑回归类库使用小结	无
感知机原理小结	无
决策树算法原理(上)	无
决策树算法原理(下)	无
scikit-learn决策树算法类库使用小结	代码1 代码2
K近邻法(KNN)原理小结	无
scikit-learn K近邻法类库使用小结	代码
朴素贝叶斯算法原理小结	无
scikit-learn 朴素贝叶斯类库使用小结	代码
最大熵模型原理小结	无
支持向量机原理(一) 线性支持向量机	无
支持向量机原理(二) 线性支持向量机的软间隔最大化模型	无
支持向量机原理(三)线性不可分支持向量机与核函数	无
支持向量机原理(四)SMO算法原理	无
支持向量机原理(五)线性支持回归	无
scikit-learn 支持向量机算法库使用小结	无
支持向量机高斯核调参小结	代码

数学统计学文章与代码：

文章	代码
机器学习算法的随机数据生成	代码
MCMC(一)蒙特卡罗方法	无
MCMC(二)马尔科夫链	代码
MCMC(三)MCMC采样和M-H采样	代码
MCMC(四)Gibbs采样	代码

机器学习集成学习文章与代码：

文章	代码
集成学习原理小结	无
集成学习之Adaboost算法原理小结	无
scikit-learn Adaboost类库使用小结	代码
梯度提升树(GBDT)原理小结	无
scikit-learn 梯度提升树(GBDT)调参小结	代码
Bagging与随机森林算法原理小结	无
scikit-learn随机森林调参小结	代码

机器学习聚类算法文章与代码：

文章	代码
K-Means聚类算法原理	无
用scikit-learn学习K-Means聚类	代码
BIRCH聚类算法原理	无
用scikit-learn学习BIRCH聚类	代码
DBSCAN密度聚类算法	无
用scikit-learn学习DBSCAN聚类	代码
谱聚类（spectral clustering）原理总结	无
用scikit-learn学习谱聚类	代码

机器学习降维算法文章与代码：

文章	代码
主成分分析（PCA）原理总结	无
用scikit-learn学习主成分分析(PCA)	代码
线性判别分析LDA原理总结	无
用scikit-learn进行LDA降维	代码
奇异值分解(SVD)原理与在降维中的应用	无
局部线性嵌入(LLE)原理总结	无
用scikit-learn研究局部线性嵌入(LLE)	代码

机器学习关联算法文章与代码：

文章	代码
典型关联分析(CCA)原理总结	无
Apriori算法原理总结	无
FP Tree算法原理总结	无
PrefixSpan算法原理总结	无
用Spark学习FP Tree算法和PrefixSpan算法	代码
日志和告警数据挖掘经验谈	无

机器学习推荐算法文章与代码：

文章	代码
协同过滤推荐算法总结	无
矩阵分解在协同过滤推荐算法中的应用	无
SimRank协同过滤推荐算法	无
用Spark学习矩阵分解推荐算法	代码
分解机(Factorization Machines)推荐算法原理	无
贝叶斯个性化排序(BPR)算法小结	无
用tensorflow学习贝叶斯个性化排序(BPR)	代码

深度学习算法文章与代码：

文章	代码
深度神经网络（DNN）模型与前向传播算法	无
深度神经网络（DNN）反向传播算法(BP)	无
深度神经网络（DNN）损失函数和激活函数的选择	无
深度神经网络（DNN）的正则化	无
卷积神经网络(CNN)模型结构	无
卷积神经网络(CNN)前向传播算法	无
卷积神经网络(CNN)反向传播算法	无
循环神经网络(RNN)模型与前向反向传播算法	无
LSTM模型与前向反向传播算法	无
受限玻尔兹曼机（RBM）原理总结	无

自然语言处理文章与代码：

文章	代码
文本挖掘的分词原理	无
文本挖掘预处理之向量化与Hash Trick	代码
文本挖掘预处理之TF-IDF	代码
中文文本挖掘预处理流程总结	代码
英文文本挖掘预处理流程总结	代码
文本主题模型之潜在语义索引(LSI)	无
文本主题模型之非负矩阵分解(NMF)	代码
文本主题模型之LDA(一) LDA基础	无
文本主题模型之LDA(二) LDA求解之Gibbs采样算法	无
文本主题模型之LDA(三) LDA求解之变分推断EM算法	无
用scikit-learn学习LDA主题模型	代码
EM算法原理总结	无
隐马尔科夫模型HMM（一）HMM模型	无
隐马尔科夫模型HMM（二）前向后向算法评估观察序列概率	无
隐马尔科夫模型HMM（三）鲍姆-韦尔奇算法求解HMM参数	无
隐马尔科夫模型HMM（四）维特比算法解码隐藏状态序列	无
用hmmlearn学习隐马尔科夫模型HMM	代码
条件随机场CRF(一)从随机场到线性链条件随机场	无
条件随机场CRF(二) 前向后向算法评估标记序列概率	无
条件随机场CRF(三) 模型学习与维特比算法解码	无
word2vec原理(一) CBOW与Skip-Gram模型基础	无
word2vec原理(二) 基于Hierarchical Softmax的模型	无
word2vec原理(三) 基于Negative Sampling的模型	无
用gensim学习word2vec	代码

特征工程与算法落地文章与代码：

文章	代码
特征工程之特征选择	无
特征工程之特征表达	无
特征工程之特征预处理	无
用PMML实现机器学习模型的跨平台上线	代码
tensorflow机器学习模型的跨平台上线	代码

License MIT.

jianjunwu/machinelearning