wenge-research/YAYI2

请问一下yayi模型如何加速部署呢?

cgq0816 opened this issue · 1 comments

如题,看了一下vllm-project/vllm,好像并没有支持yayi

您好,vllm目前已适配完成,后续会适时更新。