питоновского скрипта:
response = openai.ChatCompletion.create(
model=model,
messages=messages,
temperature=temperature,
max_tokens=max_tokens,
n=1,
stop=None,
)
Код начинает ожидать, а потом ровно через минуту отваливается с ошибкой:
> 'Connection aborted.', RemoteDisconnected('Remote end closed connection without response')
Как бы удалённый сервер закрыл соединение без ответа. При этом, если я начну стримить ответы нейронки, и по кусочку складывать в общую строку, то запросы отрабатывают нормально, без проблем.
Такое ощущение, что где-то таймаут нужно настроить. Кто-нибудь сталкивался с таким?
А что gpt говорит?)
GPT предлагает такую опцию поставить: > openai.api_client.configuration.timeout = 180 но при выполнении этой команды питон говорит что такого параметра у модуля openai нет.
Обсуждают сегодня