А как любую декодерную модель
Если есть ссыль как тюнить любую декодерную модель буду благодарен :)
https://github.com/Koziev/NLP_Datasets/blob/master/Conversations/Data/train_chitchat_rugpt.py
Я правильно понимаю что для тюнинга ему надо скормить много такого как - Вопрос > ответ
Текст: Вопрос: Ответ: Таких датасетов много
Только формат датасета лучше сделать другой, не как в примере. В примере промпт для диалогов
Обсуждают сегодня