关于CUDA的一些问题
HITLittleZheng opened this issue · 1 comments
HITLittleZheng commented
sherdencooper commented
你好,感谢你关注我们的工作。我个人更建议先尝试使用pip install vllm进行安装,如果不行再尝试克隆仓库的安装方式。关于你列出的NameError: name 'nvcc_cuda_version' is not defined的问题,在进行环境搭建的过程中我并没有遇到过类似的问题。请问你的安装环境里有安装pytorch和对应的cuda吗?同时我注意到您在使用windows进行配置,因为我手头并没有windows机器,没法帮助你进一步分析,不过我找到有类似的在windows上安装vllm的issue,希望这对您的有帮助。
对于您说的git clone仓库的问题,我觉得可能是被墙了,也行切换全局代理或者换一个代理可以解决。