pip 无法安装

[chengturbo]

pip 无法安装

[LowinLi]

已修复，麻烦重新安装一下最新版

pip install fastgpt==0.0.8

[chengturbo]

安装成功后，显示没有CausalLMModelForOnnxGeneration类

[LowinLi]

pip list|grep fastgpt

麻烦确认下安装的版本是否正确
我这边也试了下是可以的

[chengturbo]

pip list|grep fastgpt

麻烦确认下安装的版本是否正确 我这边也试了下是可以的 <img alt="图片" width="664" src="https://user-images.githubusercontent.com/33021512/220813529-dcf5bae7-2bb7-4cbb-962c-ef8f97cf1e81.pn

pip list|grep fastgpt

麻烦确认下安装的版本是否正确 我这边也试了下是可以的

谢谢，已可以成功导入。另外想问下是否可以调用微调后的模型呢？

[LowinLi]

可以的

[chengturbo]

很感谢您的帮助，生成速度得到提高。但是源代码中的测试例子，input_ids在词表比较小的是会存在越界问题，我手动改小数字后正常输出。

[LowinLi]

Cool

[chengturbo]

Cool

请问是否可以放GPU运行，不知道如何更改？

[LowinLi]

抱歉了，我这里是用的针对CPU量化的，GPU的量化不太一样

[lsycxyj]

已修复，麻烦重新安装一下最新版

pip install fastgpt==0.0.8

Mac Intel芯片

ERROR: Could not find a version that satisfies the requirement onnxruntime==1.10.0 (from versions: 1.12.0, 1.12.1, 1.13.1, 1.14.1)
ERROR: No matching distribution found for onnxruntime==1.10.0