RAG?
Кажется, что это же очень простая матрица должна быть -- объем в памяти vs перформанс (e2e перформанс самой задачи RAG + какие-то промежуточные метрики поиска типа accuracy/NDCG), но чет не гуглится...
понятно то что чем больше окно тем лучше, но это всеравно надо подбирать под вашу задачу отдельно, наример если у вас текст бьется на абзацы или главы то логично бить именно на них
Обсуждают сегодня