NeZha_Chinese_PyTorch
pytorch版NEZHA，适配transformer
论文下载地址: NEZHA: Neural Contextualized Representation for Chinese Language Understanding
运行脚本依赖模块
如果需要运行该example脚本，需要安装以下模块：
- transformers>=2.10.0
- TorchBlocks
模型权重下载
官方提供的Tensorflow版本权重下载地址：huawei-noah
已经转化为PyTorch版本权重下载地址：
-
nezha-cn-base 百度网盘链接 提取码: hckq
-
nezha-large-zh 百度网盘链接 提取码: qks2
-
nezha-base-www 百度网盘链接 提取码: ysg3
-
nezha-large-www 百度网盘链接 提取码: 8dig
运行
执行命令:
sh scripts/run_task_text_classification_chnsenti.sh结果
| NEZHA(base-www) | chnsenti |
|---|---|
| tensorflow | 94.75 |
| pytorch | 94.92 |