В том же промпте просто ту фразу поменять. Модель там видит «если не знаешь ответ, не отвечай». Могу предположить, что она думает, что знает сама по себе, поэтому отвечает. Поэтому надо про контекст указать.
пока никакие формулировки не заставили его отказаться от фантазий)
Может температуру снизить?
Стоит 0.01
попоробуйте 3х повторить))
А примеры удачные и не удачные ей подсовывали?
Может, посчитать, насколько вероятным она считает ответ "Я не знаю" и в зависимости от этого гененировать или не генерировать ответ?
Обсуждают сегодня