l4rz/gpt-2-training

Text generation on default models

alsvartr opened this issue · 1 comments

Добрый день, используя ваши модели по умолчанию при генерации (и unconditional, и interactive) всегда получаю подобный вывод:

Screenshot from 2020-12-28 23-04-56

Пример команды:
PYTHONPATH=src src/generate_unconditional_samples.py --model_name=1250M --temperature=0.9 --top_k=40 --length=100

Подскажите, возможно что-то не так делаю или чего-то не учитываю?

l4rz commented

Добрый день

убедитесь, что BPE словари (sp.model и sp.vocab) используются точно те, которые идут с моделью 1250M