Так что же всё-таки означают поля "role" и "name" в

Question

Так что же всё-таки означают поля "role" и "name" в

OpenAI API? Известно, что это role это Literal["system", "user", "assistant", "function"], а name должно матчиться регекспом ^[a-zA-Z0-9_-]{1,64}$.
По моим тестам, поле name вообще не передаётся в промпт. По ещё одним тестам, поле role распознаётся только для ассистента, т.е. отдельный токен для ответа ЛЛМ.
https://platform.openai.com/playground/p/vrV9r9Qnwl6qsAKieCa81KKz

#backend #programming #python #russian

0

19.10.2023

2 ответов

21 просмотр

Иван Степанов · Answer 1

Иван Степанов Автор вопроса

В кукбуке https://github.com/openai/openai-cookbook/blob/main/examples/How_to_count_tokens_with_tiktoken.ipynb написано, что every message follows <|start|>{role/name}\n{content}<|end|>\n if there's a name, the role is omitted every reply is primed with <|start|>assistant<|message|>

0

19.10.2023

Иван Степанов · Answer 2

Иван Степанов Автор вопроса

Иван Степанов
В кукбуке https://github.com/openai/openai-cookboo...

Стикер

0

19.10.2023

170 похожих чатов

Так что же всё-таки означают поля "role" и "name" в

2 ответов

Похожие вопросы