Коллеги, всем привет. Объясните мне, пожалуйста, разницу в обучении на

Question

Коллеги, всем привет. Объясните мне, пожалуйста, разницу в обучении на

документах и в применении документов, как контекста, для промптов.

Правильно ли я понимаю, что набор документов, как контекст обязывает модель строго опираться на факты в них, в то время как дообучение на этом же наборе в результате лишь даст вероятностный "доменообразный" Инференс, но вовсе не обязательно фактически правильный?

#nlp #programming #russian

0

08.11.2023

8 ответов

23 просмотра

Илья Нездешний

Да все правильно. Обычный термин для "обучения на документах" это файнтюн. Он хорош для того чтобы стиль переносить. Факты оказываются зашифрованы в параметрах модели в таком случае вероятностно. Если часто будут встречаться, то больше вероятность что модель их выдаст верно. Набор документов как контекст, это называется RAG - Retreival Augmented Generation - генерация улучшенная (поисковой выдачей). То есть части документов, после подготовки, подсовываются в промпт и там самым сильно повышают, но не гарантируют фактологическую точность. лангчейн это библиотека, котороая помимо всего прочего упрощает инженерные действия по организации этого самого RAG. То есть инструмент для реализации, второго описанного вами подхода,а не какая-то третья опция.

0

08.11.2023

S S A Sokol Автор вопроса

Илья Нездешний
Да все правильно. Обычный термин для "обучения на ...

О, то есть, правильно ли я понял механику. Фрагменты, полученные из документа с помощью RAG-техник, "включаются" в пользовательский промпт, уточняя его?

0

08.11.2023

Илья Нездешний

S S A Sokol
О, то есть, правильно ли я понял механику. Фрагмен...

да. Модно - с помощью векторного поиска, но это не единственный и не всегда лучший способ.

0

08.11.2023

S S A Sokol Автор вопроса

Илья Нездешний
Да все правильно. Обычный термин для "обучения на ...

Еще такой вопрос, на понимание, извините, если покажется наивным: Вот у LLM есть конструктивно заложенный размер промпта, который мы, если мы не большие мира сего, не можем изменить имеющимися ресурсами. Следовательно при инженерном проектировании ассистента мы должны соблюдать trade-off между размерами/количеством вспомогательных фрагментов контекста и собственным орагничением на пользовательский запрос? Потому что в сумме это не может превосходить, например, 4000 токенов

0

08.11.2023

Илья Нездешний

именно. вообще много инженерной возни из этого вытекает. И последним обновлением размера контекста гпт-4 до 128k токенов, убирается. Но не сводится на нет, потому что для каких-то задач данных нужно больше или гораздо больше

0

08.11.2023

S S A Sokol Автор вопроса

Илья Нездешний
именно. вообще много инженерной возни из этого выт...

В условиях моды на "приземление" LLM на конкретных предприятиях с чувствительными данными, когда как раз от GPT-4 хотят отходить, приходится как то изворачиваться с опенсорсными моделями.

0

08.11.2023

Илья Нездешний

S S A Sokol
В условиях моды на "приземление" LLM на конкретных...

приходится, да. Если хочется иметь дело с такими предприятиями )

0

08.11.2023

Terа́Spа́ce Stories: 10^12 Space |🥴🤗| · Accepted Answer

Terа́Spа́ce Stories: 10^12 Space |🥴🤗|

для документов лучше брать лангчейн или ретривер

0

08.11.2023

170 похожих чатов

Коллеги, всем привет. Объясните мне, пожалуйста, разницу в обучении на

8 ответов

Похожие вопросы