xueyongfu11

LongLoRA

Code and documents of LongLoRA and LongAlpaca (ICLR 2024 Oral)

MixLoRA

State-of-the-art Parameter-Efficient MoE Fine-tuning Method

vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

awesome-deep-learning-resource

个人总结的大模型、自然语言处理NLP、多模态、计算机视觉CV等方向paper的阅读笔记；收集到或者使用到的一些NLP、CV等领域的优秀开源仓库；其他：如数据集、评测leaderboard等

chinese-layoutlm-v2

multi-lora-LLM

大模型推理；在线支持不同任务训练的lora推理；支持高并发请求，将请求batch之后推理

xueyongfu11/awesome-deep-learning-resource

个人总结的大模型、自然语言处理NLP、多模态、计算机视觉CV等方向paper的阅读笔记；收集到或者使用到的一些NLP、CV等领域的优秀开源仓库；其他：如数据集、评测leaderboard等

xueyongfu11/chinese-layoutlm-v2

xueyongfu11/multi-lora-LLM

大模型推理；在线支持不同任务训练的lora推理；支持高并发请求，将请求batch之后推理