170 похожих чатов

Какой промпт стоит использовать, чтобы модель выдавала более длинный, подробный

ответ на заданный вопрос?

Пробовал:
Answer must be X words in length
Answer must be complex
Answer must be detailed as in the example (и подаю пример длинного ответа на другой вопрос)
Answer must contain 2 sentences

И это всё равно как-то не работает, почти всегда в ответ выдаёт до 5 слов где-то

14 ответов

9 просмотров

а какая модель-то? gpt вроде всегда подробный ответ дает, если не попросить обратного

Может лимит на новые токены?

температуру ещё попробуй повысить

Alexander 🎤👑-Diesel Автор вопроса
miteigi nemoto
Может лимит на новые токены?

Не, не, я max_length большую выставляю, с этим нет проблем

Alexander 🎤👑-Diesel Автор вопроса
նիկիտա ki ta ~
температуру ещё попробуй повысить

Попробую, у меня просто сейчас greedy search включён. Когда включал сэмплинг, то падало качество ответов.

Alexander 🎤👑 Diesel
Попробую, у меня просто сейчас greedy search включ...

попробуй ещё использовать параметры генерации saiga2, может получше будет https://huggingface.co/IlyaGusev/saiga2_13b_lora/blob/main/generation_config.json а так для сэмплинга надо обязательно подбирать параметры top_p, top_k и temperature

Alexander 🎤👑-Diesel Автор вопроса
Vladimir P
попробуй ещё использовать параметры генерации saig...

Я просто подозреваю, что дело не в самих параметрах, а в промпте

Alexander 🎤👑-Diesel Автор вопроса
Vladimir P
проверял модель с другим промптом?

Ну в целом от промпта у неё сильно формат ответа меняется да. На каком-то вопросе у меня даже удалось с помощью того промпта с «complex answers» достать длинные ответы. Но на других вопросах не срабатывало.

Alexander 🎤👑 Diesel
Ну в целом от промпта у неё сильно формат ответа м...

а ещё может быть, что llama 2 просто не была обучена следовать инструкциям)

Alexander 🎤👑-Diesel Автор вопроса
Alexander 🎤👑-Diesel Автор вопроса

Тут помогло в нескольких местах (везде, где слово answer) прописать "provide complex answers". Стали действительно не однословные.

Похожие вопросы

Обсуждают сегодня

Кстати, а я вот тут подумал. Допустим, у нас имеется цикл который выполняет огромное количество итераций, но мы хотим, чтобы какие-то действия исполнилось только один раз. В Я...
The Bird of Hermes
23
Доброй ночи. Вопрос знатокам. Имеется некая таблица, результат которой выведен в DBGrid на форме. И есть форма, с помощью которой можно как добавить запись, так и отредактиров...
Евгений
28
а всё почему? потому что ассемблер в отличии от яву порождает множество пагубных привычек, среди которых например можно отметить использование глобальных переменных для всего ...
Mixail Frolov
35
анрей С какой целью зашёл?
КТ315
42
я часов 15 назад начал пытаться написать хоть что-то напоминающее ос и у меня есть проблема, которую я пытаюсь решить последние часов 5: есть крч 2 исходника с минимальным код...
Al1to
17
Кто нибудь из участников чата пишет на ассемблере под GNU/Linux?
Spiker01
24
Всем привет ребят! Мб кто-то сталкивался? adminСomponents .get("searchСomponents", use: searchComponents) .openAPI( summary: ...
Admin Adminov
2
Насколько моя реализация Exercise 1 плохая? data MessageType = Info | Warning | Error Int deriving (Show, Eq) type TimeStamp = Int data LogMessage = LogMessage ...
= ?
10
Кстати вопрос. Проанализировав свои проекты я понял, что в наиболее ценных из них Асм использовался для организации real-time процессов (внутри DOS). А какие есть способы сего...
Alexander Morozov
18
Я не очень много работал с потоками, тут возник вопрос - если будет одновременный доступ к памяти из двух разных потоков, это само по себе приведет к ошибке?
The Bird of Hermes
25
Карта сайта