контексте (в промте), чтобы по нему задавать вопросы?
Пока контекстное окно не кончится. У нее 4000 токенов
А не 2000? Мне казалось, что у сайги на её основе максимальная длина 2000
А причем тут сайга? Человек спросил про LLaMA2, у нее ограничение в 4000. У chat версии столько же
Вот здесь кто-то предлагает 32К уже https://medium.com/@sushilkumar467/huge-llama-2-with-32k-context-length-9f7e11853d03
Это уже не оригинальная лама
Обсуждают сегодня