/agi

Primary LanguagePython

LLM

подключение LLM модели к telegram bot api, реализована простая очередь обработки запросов на GPU Python 3.10.0

pip install -r requirements.txt
sudo chmod 777 run_.sh
./run_.sh