Новая группа доходит до тех же сообщений? Может слишком долгая обработка, или не успевает отправить хартбит? Что на стороне клиентов пишется а лог? Какой класс используется для распределения партиций между консьюмерами - стики или что-то другое?
Вот не обратил внимание по новой группе. Но, я думаю, что доходит. Про долгую обработку тоже думал, некоторые сообщения большие и они сохраняются потом в реляционную БД. В логах ничего подозрительного на клиенте, завтра попробуем включить дебаг и посмотреть, спасибо. Скорее всего, действительно проблема в долгой обработке Последний вопрос не понял, но на всякий случай - это кластер из трёх брокеров ванильной Кафки, не в докере. Настраивал только топик, в настройках брокеров все по умолчанию
Последний - это про настройки консьюмера: любопытно почему дополнительных мемберов всегда именно 2. Сюда же можно докинуть какую версию клиента используете
Вот да! Этот вопрос тоже меня мучает. Завтра буду подробнее разбирать, докину информации
В общем, поигрались на клиенте с параметрами max_poll_interval_ms, max_poll_records, session_timeout_ms, fetch_max_wait_ms Помогло. Сейчас стабилизировалось все, очередь разбирается стабильно и быстро.
как сильно поменялись?
Сейчас вот так. fetch_max_bytes = 247483647 session_timeout_ms = 30000 fetch_max_wait_ms = 5000 max_poll_interval_ms = 900000 max_poll_records = 250
Обсуждают сегодня