Добрый день! Подскажите, пожалуйста, кто-нибудь не сталкивался с такой ошибкой при

нагрузочном тестировании сервиса asr на gRPC: status = StatusCode.UNAVAILABLE details = "Received http2 header with status: 504".

Схема такая: клиент -> nginx -> grpc.

На grpc ошибку не выводит, nginx пишет, что время сессии закончилось, таимаут (23735 upstream timed out (110: Connection timed out) while reading response header from upstream, client: 172.22.0.4, server: , request: "POST /SpeechToTextService/StreamingRecognize HTTP/2.0").

Как это можно исправить при балансировке через nginx? Если напрямую, без nginx отправлять запросы - все хорошо.
Увеличение таимаута только до поры до времени помогает. Ошибка в том, что сессии не восстанавливается...
Отсюда ещё вопрос: как восстанавливать сессии на nginx или по-умному для grpc закрывать и снова открывать?

Конфиг (с 1 инстансом сервиса stt пробовал, как тут - ошибка та же):
#nginx version: nginx/1.19.10
http {
fastcgi_read_timeout 300;
proxy_read_timeout 300;
uwsgi_read_timeout 300;
grpc_read_timeout 300;
}

server {
listen 8558 http2;
charset utf-8;
location / {
grpc_pass grpc://stt:8119;
}
}

1 ответов

32 просмотра

трафик сдампи в момент затыка. лучше - секунд за 5 до начала

Похожие вопросы

Обсуждают сегодня

1. https://www.kaggle.com/code/ahmadrezagholami2001/housing-estimation-linear-regression 2. https://www.kaggle.com/code/ahmadrezagholami2001/uncovering-quality-in-wines-logis...
Ahmadreza
1
Hi! Could you please upvote my new notebook? thanks a lot. https://www.kaggle.com/code/melissamonfared/anime-character-generation-dsgan-gan
məru
4
upvote plz https://www.kaggle.com/code/bassetkerouche/swapping-face?scriptVersionId=207300096
benkerrouche Statoinary
1
-- Привет всем. -- Есть csv, проблема в том что он содержит очень много повторов по столбцам и по строкам. -- Решил перекинуть это в базу данных, чтобы было проще. Но я не ша...
Oleg Ivanov
1
Как считаете - вопрос на собесе: «Как быстрее всего запустить ec2 машину в aws (в чистом аккаунте) и показать вывод от любой команды с нее» не очень ли сложный для условного м...
Sergey
50
Господа, у меня вопрос. Что вообще такое этот ваш data science и data scientists? А то гуглю, а мне какую-то расплывчатую фигню говорят.
Inkosta
44
Исходя из ваших комментариев, получается, что чтобы получить марты в CH из данных в PG, неправильно тянуть сырые данные в CH и там их обрабатывать, лепить справочники и джойни...
unhingedlunatic
42
Hi could you please help me with my two new projects? https://www.kaggle.com/code/hesankazemnia/rice-image-classification-cnn-pytorch https://www.kaggle.com/code/hesankazemnia...
Hesan
6
hi, Can you upvote? https://www.kaggle.com/code/durjoychandrapaul/rag-q-a-system-by-langchain-huggingface-for-pdf?scriptVersionId=204704280
A
1
Could you upvote and comment please? https://www.kaggle.com/code/tatianapetrushkevich/beginner-images https://www.kaggle.com/code/tatianapetrushkevich/python-for-beginners1 ...
Tazziyana
7
Карта сайта