/Attention

学习研究注意力机制的项目

Primary LanguageJupyter Notebook

Attention项目合集

1.手撸Transformer并摘引原文注解V1-CPU版

代码: Transformer_V1_CPU.ipynb

2.基于Multi30k数据集和Transformer的MT(有注意力可视化效果)-CPU版

代码: Transformer_V2_CPU.ipynb

3.1手撸Transformer并摘引原文注解V3-GPU版

代码: Transformer_V3_GPU.ipynb

3.2 项目3.1的Result Visualization(CPU即可)

代码: Transformer_V3_ResultVisualization.ipynb

4.FVTrans(基于PyTorch官方源代码实现的Transformer)

出于研究Transformer目的，研究PyTorch的Transformer模块，形成本项目。欢迎大家参考！

  • 位置Attention/FVTrans 点击 FVTrans 进入