мусора в выходе модели? Например, добавляется слово "выход:" и тд в ответ
четко формулируем промпт, уточняем что есть мусор, а что зерна, добавляем примеры входов-выходов, если возможно
Есть ультимативный LMQL: argmax "Hello [NAME]" from 'openai/text-ada-001' where len(NAME) < 10
https://lmql.ai/docs/language/constraints.html
Обсуждают сегодня