朴素贝叶斯分类器。
sklearn的分类器貌似不能同时支持 连续特征、离散类别两种特征呢,没想清楚为什么。
关于如何改进,或许可对连续特征、尝试使用不同于高斯的其他分布。(啊,关于空值,离散特征作为单独的一类;连续特征,则先计算空值占比和非空占比,然后连续非空数值的占比、需要在原基础上乘以非空占比,空值直接就使用空值占比。即,通过这种方式处理朴素贝叶斯分类中的特征空值问题)
学习总结:
- 1、离散+连续特征。与sklearn中的朴素贝叶斯分类器相比,需要同时处理连续特征和离散类别特征。
- 2、分布。对于连续数值特征,概率计算不一定全都用高斯分布。
- 3、空值处理。可以不填充,而作为单独的一类,在连续、离散两种特征中,应该都有更好的处理方法。(如上)
Cart决策树分类器。
sklearn源码为cython。这是python实现,与网上已有的相比,功能多了些。
可以完善的点有:
- 1、离散特征没有做。
- 2、空值没有处理。
- 3、连续特征中的特殊值,没有处理。
- 4、连续特征,没有使用分割点组合。
学习总结:
- 1、实现了class_weight参数
- 2、实现了sample_weight参数
- 3、实现了min_samples_split,min_samples_leaf,min_weight_fraction_leaf控制生成的参数逻辑。
- 4、实现了cart剪枝方法(2020.4.16日更新)
Cart决策树回归器。
在无剪枝的分类器版本上、稍加改动实现的(这一版无剪枝)。