Название проекта: Создание нейро-ассистента по информации, размещенной на сайте заказчика https://www.kia.ru
Описание проекта: Создать нейро-ассистента, отвечающего на вопросы клиентов организации по продуктам и услугам компании. Основные задачи:
-
На основе представленных заказчиком ссылок и документов была подготовлена база знаний - централизованное хранилище, которая содержит необходимую информацию, используемую для поиска ответов на вопрос пользователя. База знаний была оптимизирована и структурирована на логические блоки, с использованием MarkDown разметки: "#", "Header 1" "##", "Header 2" "###", "Header 3" "####", "Header 4"
-
Составлен алгоритм с дообучением ChatGPT - вариант модели GPT (Generative Pre-trained Transformer), разработанной компанией OpenAI. GPT - это модель глубокого обучения, основанная на технологии трансформеров, которая используется для генерации текста. ChatGPT способен понимать пользовательские запросы и генерировать соответствующие ответы на основе своей тренировки на огромном количестве текстовых данных, а также дополнительной информации от пользователя, подающейся с помощью фреймворка LangChain, который делит пользовательскую информацию на множество блоков и выбирает при ответе только максимально релевантные по смыслу фрагменты (chunk)
-
Тестирование алгоритма: После создание пула и тестирования вопросов, база знаний и алгоритм корректировались до получения оптимальных результатов.
-
Внедрение и тестирование: Интеграция нейро-ассистента возможна несколькими способами: • интеграция по API на сайт заказчика • интеграция в чат-бот на сайте либо в Telegram-бот заказчика
В результате тестирования была достигнута точность 1,4 из 2.
База знаний для Нейро-консультанта : knowledge/database.md
Это документ, который используется для поиска необходимой информации по запросу пользователя. Изменять его необходимо крайне осторожно, соблюдая структуру файла в формате MarkDown
Используется Ubuntu 22.04. Все действия делаем в консоле сервера
- Обновляем систему
sudo apt update
- Устанавливаем Python
sudo apt install python3
- Устанавливаем pip
sudo apt install python3-pip
- Устанавливаем venv
sudo apt install python3-venv
-
Загружаем каталог с проектом
-
Переходим в него
cd KIA-GPT1
- Создаем виртуальную среду и активируем
python -m venv venv
source venv/bin/activate
Вводим эту команду в консоле для установке в среде.
pip install -r requirements.txt
python main.py