PaddlePaddle/PaddleNLP

[Docs]: Paddlenlp 2.8更新了,关于LLM相关文档,大佬们有空可以更新迭代一下吧

Opened this issue · 1 comments

软件环境

- paddlepaddle:
- paddlepaddle-gpu: 
- paddlenlp:

详细描述

https://github.com/PaddlePaddle/PaddleNLP/tree/develop/llm

推理
新增QWenVL 的静态图推理 #7808
模型新增
新增Deberta,Debertav2模型 #8227
deepset/deberta-v3-large-squad2
microsoft/deberta-v2-xlarge
microsoft/deberta-v3-base
microsoft/deberta-v3-large
microsoft/deberta-base
新增mixtral-of-experts #7803
mistralai/Mixtral-8x7B-Instruct-v0.1
mistralai/Mixtral-8x7B-v0.1
新增LLama3 #8315
meta-llama/Meta-llama-3-8b
meta-llama/Meta-Llama-3-8B-Instruct
meta-llama/Meta-llama-3-70b
meta-llama/Meta-Llama-3-70B-Instruct
基础框架升级

欢迎开发者提PR进行贡献