микросервисах, обмен сообщений через RabbitMQ, как нам грамотно сделать сохранение логов в КликХаус???
https://vector.dev/docs/reference/configuration/sinks/clickhouse/
я бы еще RabbitMQ на http://vectorized.io/redpanda попробовал заменить если проект сырой
Уточните, что есьб "грамотно". https://clickhouse.com/docs/en/engines/table-engines/integrations/rabbitmq/
Так он 10x faster Кафки в смысле latency, что само по себе никому не нужно в мире ClickHouse. А менять Rabbit на кафка-заменитель ... зачем?
Заменить уже не получится
Ну мне один знакомый, предлагал вариант: сохранять логи в файл формата csv, а в конце дня, отправлять в Кликхаус с помощью jdbc драйвера
Если такой подход решает все ваши задачи (например, суточная задержка приемлема), то почему бы и нет? Ну а если не решает, то расскажите, что именно не решает.
Сыроватый еще. Кафка быстрее в разы
попробуйте https://vector.dev/ мы для логов используем
Спасибо, посмотрю
а где бы бенчмарки посмотреть со стороны Kafka? а то кругом бенчмарки только от redpanda и они там рассказывают про кратный рост =)
А я вот ищу кстати. На ноутбуке ссылочка точно быть должна, откладывал ее как источник для презентаций)
если найдете поделитесь пожалуйста
меньшая latency не ведет в конечном итоге к большему thoughput?
В общем случае нет. В книжках любят писать, что наоборот: налево пойдешь - хороший throughput получишь, направо пойдешь - низкий latency. В частном случае - не знаю.
https://softwaremill.com/mqperf/
спасибо =) но сравнивать kafka без raft quorum и redpanda с raft quorum такое себе =) но в любом случае познавательно
В графиках панды нет, я думаю скоро научатся сравнивать в продакшене и статьи появятся. Но личное мнение - сыровато пока, в прод бы не потащил
О, классное сравнение кстати. Заодно дает понять примерный порядок цифр для Кафки — почти миллион сообщений в секунду на один набор реплик, и наверняка упирается в диск, как и обещано. Но также там очень правильно сказано про то, что Кафку надо правильно сконфигурировать, чтобы не было непредвиденной потери данных, и это _не поведение по умолчанию_
Недавно читал книжку по Kafka от 2017 года, так там первым делом это и объясняется Т.е. если задаться вопросом "а какие гарантии обеспечиваются", то нужные настройки легко находятся
Обсуждают сегодня