Tlntin/Qwen-TensorRT-LLM

TypeError: missing a required argument: 'host_sink_token_length'

Hukongtao opened this issue · 2 comments

Hukongtao commented

image

执行build的过程报错
image

Tlntin commented

用的哪个容器？
tensorrt_llm版本？
该项目的什么分支？

Hukongtao commented

重新安装了下Qwen-TensorRT-LLM下面对应的tensorrt-llm可以跑了，之前是安装的最新的TensorRT-LLM的main分支报的错

  • 🎉1