(фантазирует)
python3 main.py "What doing Karl Schwarzschild?"
Answer: Karl Schwarzschild is a researcher at Meta AI working on open-source language models.
А когда есть отвечает
Answer: Karl Schwarzschild developed the theory of stellar evolution.
В промте указано
If you don't know the answer, just say that you don't know, don't try to make up an answer.
Как заставить его замолчать?))
Вы обычную ламу или chat версию используете?
llama-2-7b-chat.ggmlv3
Подождите, а вы в свой промпт добавляете ту фразу, что если ответа нет, то ей надо ответить, что она не знает?
Я просто не до конца понял сообщение. Фраза о том, что не знает есть в изначальном промпте, может, её стоит добавлять ещё в каждый вопрос как напоминание.
Может, попробовать как-то более прямо промпт написать, что если нет ответа именно в контексте ниже, то сказать, что не знает Потому что так она как будто начинает искать информацию внутри себя, возможно
Кстати, да. Я с Клодом такой фокус делал.
Я понял причину. Внизу промта было указано - Only return the helpful answer below and nothing else. Helpful answer: Поэтому если ответа не было, он выдавал из памяти свой
Обсуждают сегодня