интереса загрузил статейку на 8 страниц - столько галлюцинаций разве что в психиатрии
Месяц/2 назад нормально работала)
Вчера просто попробовал две статьи прогнать, везде было откровенное безумие. Возможно, у них проблемы. Спасибо
Мы статью написали на эту тему (уже вторая) где описано почему типичное разбиение сниппеты не работает и дает галлюцинации, как все делают. Вторая причина это плохой поиск в векторных базах. Сильно зависит от тематики и вопросов, если вопросы с терминами и ответ разбросан по тексту, то эмбеддинги OpenAi которые они используют не помогут. И только третья причина это крутость LLM конечной, типа GPT-4 В общем свое решение сделали https://habr.com/ru/articles/772130/
Использую Claude 2 для документов. Работает прекрасно лучше ChatGPT.
Обсуждают сегодня