/Word2vec-BERT-

将word2vec训练生成的词向量和BERT生成的词向量进行可视化对比

Primary LanguagePython

环境:Windows10,gensim,bert-as-service

先下载好中文BERT预训练模型,然后开启bert-as-service

使用:直接在本目录下运行word2vec.py生成word2vec训练好的词向量可视化图,BERT.py生成BERT训练好的可视化图。

通过对比两种词向量的可视化图可以看出,BERT生成的词向量质量显然比word2vec的词向量质量要好。 Image text Image text