Этот код написан с использованием ruGPT-3 для генерации текста из некоторых моих любимых книг и проверки того, насколько точно модель генерирует текст, похожий на автора. В качестве датасета было взято любимое произведение Виктора Пелевина "Тайные виды на гору Фудзи", в дальнейшем к нему прибавятся еще парочка других романов того эе автора
!pip install transformers
!pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113
https://drive.google.com/file/d/1InFKpZeqMWQiT2dfyJOwqe5f9sfqPT7U/view?usp=sharing
Качество полученного текста могло бы быть выше, если бы использовалась модель с большим количеством параметров (размер батчей и число эпох) и для генерации текста использовались входные данные большего размера.