Torch Learning

2020.9.3
- 搞清楚了基本的自动求导，梯度计算以及数据结构转换
- 使用Torch的自动求导对退火算法最终结果进行优化 (优化结果对于不同函数效果的好坏不一)
- 使用Torch写了一个多项式函数拟合方法，与np.polyfit比较，十分接近polyfit的结果（测试了1, 2次函数）
2020.9.4
- 实现了一个（十分慢的）ransac 稀疏特征点最优单应矩阵的求取（梯度下降）（纯autograd）
- 非常垃圾，40秒匹配一张图，结果还不够好，感觉思路没什么问题
2020.9.5
- 使用optim写了一个曲线拟合（SGD，学习率和动量对收敛的影响都很大）CUDA加速
- nn模块使用，其他torch基础函数使用
2020.12.19
- 第一个CNN神经网络 MNIST手写数字识别，第一版
2020.12.20
- CNN神经网络第二版，修改了网络架构，发现了一些问题
- 可能主要是由于softmax与交叉熵的计算精度问题
2020.1.26
- GAN 成功训练版本（gan_v2.py）
- gan_v1.py失败的原因不明，有待review
- gan_v2训练结果不算太好（最后会消失，因为分类器实在太强了，二分类任务最后干爆了生成器）
- 干爆的结果就是：只有生成出全黑的图片才能让分类器的loss尽可能小
- 需要改变此局面
2020.1.28
- 将WGAN网络结构改为了全连接隐藏层 + 大kernel卷积输出，效果比原来好多了
- Notes：【GAN原理】

Enigmatisms/TorchLearning