- ✔️生成数据,加入噪声
- ✔️用高阶多项式函数拟合曲线;
- ✔️用解析解求解两种loss的最优解(无正则项和有正则项)
- ✔️优化方法求解最优解(梯度下降,共轭梯度)
- ✔️用你得到的实验数据,解释过拟合。
- ✔️用不同数据量,不同超参数,不同的多项式阶数,比较实验效果。
- ✔️语言不限,可以用matlab,python。求解解析解时可以利用现成的矩阵求逆。梯度下降,共轭梯度要求自己求梯度,迭代优化自己写。不许用现成的平台,例如pytorch,tensorflow的自动微分工具。
- ✔️实现两种损失函数的参数估计(1,无惩罚项;2.加入对参数的惩罚)
- ✔️可以采用梯度下降、共轭梯度或者牛顿法等。
- ✔️手工生成两个分别类别数据(可以用高斯分布),验证你的算法。
- ✔️考察类条件分布不满足朴素贝叶斯假设,会得到什么样的结果。
- ✔️逻辑回归有广泛的用处,例如广告预测。可以到UCI网站上,找一实际数据加以测试。