Всех приветствую, такой вопрос - есть датасет из вопроса и

Question

Всех приветствую, такой вопрос - есть датасет из вопроса и

ответа в формате json
Некие данные чат диалога
Задача сделать трансформер чат бот что бы на основе этих данных можно было вести диалог

Вопрос такой, как можно представить датасет для обучения модели, принципиально ли разделять вопрос и ответ, какую архитектуру тогда использовать?
или в таком случаю достаточно будет привести к одному типу данные и получить корпус токенов и не важно где вопрос и ответ

#database #programming #russian #software

0

02.05.2023

6 ответов

3 просмотра

human Автор вопроса

Болталку что бы поддержать разговор по типу -привет как дела -привет, хорошо

0

02.05.2023

Павел

human
Болталку что бы поддержать разговор по типу -приве...

для этого трансформер не нужен. что бы отвечать на как дела и здороваться достаточно лесом пройтись. что бы сделать чат бота с нейросетями надо делать, что то сложное, способное: 1. классифицировать, что ему говорят 2. генерировать что то. но что бы чот генерировать адекватное, а не выбирать из набора вариантов, надо очень большой корпус. попробовать можно bert, он полегче gpt. но все равно думаю гигов 20 для дообучения модели надо. начнитн с подробной классификации текстов, с генераторами текстов я не работал.

0

02.05.2023

human Автор вопроса

Павел
для этого трансформер не нужен. что бы отвечать на...

класификация текста отвечает как бы за понимание контекста?

0

02.05.2023

Павел

human
класификация текста отвечает как бы за понимание к...

ну да, о чем речь идет, выделять какие то сущности

0

02.05.2023