170 похожих чатов

Подскажите, пожалуйста, а у каких опенсорс LLM сейчас есть длинный

input в токенах? Запутался, какой сейчас максимальный контекст для llama2? В конфиге написано - max_position_embeddings=4096, это оно?

4 ответов

9 просмотров

Будем тестить сегодня вечером как раз

https://huggingface.co/Yukang

не могу найти где видел как кто-то тестировал LLM на то, как она с большим контекстом работает типа брал полуосмысленную фразу например: "смысл жизни -- стряпать блины" и вставлял ее >в самое начало >с 1к токенов >с n+1k токенов и задавал вопрос "в чем смысл жизни?" а потом считал, скок раз и в каких местах ошиблась\дала правильный ответ ____ кто-нибудь меня понял? лол можете ссылку кинуть? === есть желание эту лора также протестить (мб кто-то уже делал?) ======== про лост-ин-мидл быстро находит но вроде не совсем оно, более детально

Похожие вопросы

Обсуждают сегодня

коллеги, добрый вечер! А никто не знает как модальная форма может себя закрыть? Ну допустим модальная форма определила, что смысла ей работать нет и хочет вернуть modalResult...
Михаил
83
А если изначально бот работал так : есть сайт онлайн школы. У каждого ученика свой кабинет. Где он авторизуется по своим данным. И уже в кабинете, на самом сайте делает оплату...
Денис 💡 Фрилансер
13
А что ты вообще делаешь ?
Yesgoter
13
На работе пишем распределенное приложение, у которого сотни, если не тысячи настроек. Конфиги написаны на xml, расположены на разных хостах и должны быть согласованы друг с др...
Aleksandr Druzhinin
5
Всем привет 🙂 Какая-то непонятная проблема у меня с видео, раньше такого не было. Загружаю видео с гугл диска именно в видео mp4 и меняю ссылку как положено вот она: https://d...
Ксюша|Верстка на Тильде|Дизайн 🦥
6
средствами IBX как-то можно выполнить запрос insert ... returning?
Igor
31
Добрый день Хочу начать обучение языку, не являюсь представителем it, буду благодарна за помощь, совсем пока не понимаю ничего) Подскажите, пожалуйста, где можно начать первы...
Sara Lala
18
что это и почему оно? executor.start_polling(bot, skip_updates=True, on_startup=on_startup, File "/usr/local/lib/python3.10/dist-packages/aiogram/utils/executor.py", line 4...
𐌍𐌄 ᕓ𐌄𐌓𐌌Ꝋ𐌓𐌄
2
Hi there everyone Is there anyone who have not started hamster bot yet? I need only one, I'll be glad if you do this for me DM if you haven't yet
Mehrshad
53
Подскажите, почему в правом коде с1 дополняется до 8байт, а не до 4?
Sergey
9
Карта сайта