Как реализовать разделение общей переписки с API чатгпт так, как это у них сделано?
Чтобы можно было выбрать диалог, который начал давно, и нейросеть была в курсе всех текстов и всего контекста? И чтобы нейросеть не перечитывала весь диалог, со всем текстом(чтобы деньги не тратить за перечитку уже отданного ранее текста), а уже была в теме?
Хочу давать ей большие тексты по много раз, чтобы она по ним отвечали. и платить за одно и то же 10 раз подряд не хочется.
К гпт можно прикрутить векторную базу, всю переписку разбить на кусочки и перевести в эмбеддинги, потом по схожести эмбеддинга последнего сообщения и эмбеддингов кусочков доставать только нужные в контекст. Где-то в интернете должны быть реализации
а как делает опенаи не знаете?
не знаете где больше прочитать про такие реализации? Я не дата сайентист, мне бы полегче что-то
не знаю, возможно и так) просто не погружен в эту тему
вобще есть официальная реализация описанного процесса от них же https://github.com/openai/chatgpt-retrieval-plugin
https://t.me/bogdanisssimo/196 не очень понимаю, что именно нужно, но по ссылке выше чуть подробнее написано, что я имел в виду
Обсуждают сегодня