kafka, divolte перестает видеть ее и висит в цикле с сообщением
WARN [NetworkClient]: [Producer clientId=divolte.collector] Connection to node 0 could not be established. Broker may not be available.
внутри кубера\докера?
да кубер, helm чарт с реджестри для кафки или я погорячился с перетаскиванием кафки в кубер ?
да хз Смотря для каких целей. У меня кафка и в кубере и на отдельным виртуалках живет. а по поводу "теряет кафку". скорее всего твоё приложение забирает внутренний IP кафки по ДНС и фиксирует у себя в контексте. Соотв, когда ты ребутаешь под с кафкой, у нее меняется внутренний IP, а приложение бьется по старому Решение - обновлять в приложении IP адрес по ДНС или ходить строго по ДНС
да, я так и понял по логике, осталось дело за малым умеет ли приложение это делать :)
Проблема все-таки не в этом я зафиксировал у кафки clusterIP при перезагрузке кафки всегда сохраняется один и тот же ip. И все равно делаем перезагрузку клиент теряет ее и больше не шлет данных
А вы проверяли просто доступность Кафки в такие моменты с поды? По днс/IP
Да проверял в данный момент кафка не является кластером а поднята как один стейтфулсет инстанс, имеет PVC и PV, перезагрузка кафки подразумевает удаление пода kafka и его переподнятие автоматом. nslookup показывает что ип у кафки не меняется! в тоже время другие клиенты к примеру clickhouse переподключаются к кафке без проблем сами. наблюдается проблема пока только с Divolte
Use case описанный в примерах закрывается нативным kafka connect . Возможно, divolte требует или ему нужен рестарт соединения при разрывах для создания клианта
конфиг подключения divolte к kafka { bootstrap.servers = ${?DIVOLTE_KAFKA_BROKER_LIST} client.id = divolte.collector client.id = ${?DIVOLTE_KAFKA_CLIENT_ID} acks = 1 retries = 0 compression.type = lz4 max.in.flight.requests.per.connection = 1 } при обрыве соединения получаю WARN [NetworkClient]: [Producer clientId=divolte.collector] Connection to node -1 could not be established. Broker may not be available. пробуем менять acks = 0 retries = 5 туже ошибку но с 0 WARN [NetworkClient]: [Producer clientId=divolte.collector] Connection to node 0 could not be established. Broker may not be available. https://kafka.apache.org/documentation.html#acks
Обсуждают сегодня