184 похожих чатов

Господа создатели КликХаус, подскажите пожалуйста: вот у нас приложение на

микросервисах, обмен сообщений через RabbitMQ, как нам грамотно сделать сохранение логов в КликХаус???

20 ответов

9 просмотров

https://vector.dev/docs/reference/configuration/sinks/clickhouse/

я бы еще RabbitMQ на http://vectorized.io/redpanda попробовал заменить если проект сырой

Уточните, что есьб "грамотно". https://clickhouse.com/docs/en/engines/table-engines/integrations/rabbitmq/

Slach [altinity]
я бы еще RabbitMQ на http://vectorized.io/redpanda...

Так он 10x faster Кафки в смысле latency, что само по себе никому не нужно в мире ClickHouse. А менять Rabbit на кафка-заменитель ... зачем?

Сергей- Автор вопроса
Сергей- Автор вопроса
Ilya Golshtein
Уточните, что есьб "грамотно". https://clickhouse....

Ну мне один знакомый, предлагал вариант: сохранять логи в файл формата csv, а в конце дня, отправлять в Кликхаус с помощью jdbc драйвера

Сергей
Ну мне один знакомый, предлагал вариант: сохранять...

Если такой подход решает все ваши задачи (например, суточная задержка приемлема), то почему бы и нет? Ну а если не решает, то расскажите, что именно не решает.

Slach [altinity]
я бы еще RabbitMQ на http://vectorized.io/redpanda...

Сыроватый еще. Кафка быстрее в разы

попробуйте https://vector.dev/ мы для логов используем

Roman Y
Сыроватый еще. Кафка быстрее в разы

а где бы бенчмарки посмотреть со стороны Kafka? а то кругом бенчмарки только от redpanda и они там рассказывают про кратный рост =)

Slach [altinity]
а где бы бенчмарки посмотреть со стороны Kafka? а ...

А я вот ищу кстати. На ноутбуке ссылочка точно быть должна, откладывал ее как источник для презентаций)

Ilya Golshtein
Так он 10x faster Кафки в смысле latency, что само...

меньшая latency не ведет в конечном итоге к большему thoughput?

Slach [altinity]
меньшая latency не ведет в конечном итоге к больше...

В общем случае нет. В книжках любят писать, что наоборот: налево пойдешь - хороший throughput получишь, направо пойдешь - низкий latency. В частном случае - не знаю.

Roman Y
https://softwaremill.com/mqperf/

спасибо =) но сравнивать kafka без raft quorum и redpanda с raft quorum такое себе =) но в любом случае познавательно

Slach [altinity]
спасибо =) но сравнивать kafka без raft quorum и r...

В графиках панды нет, я думаю скоро научатся сравнивать в продакшене и статьи появятся. Но личное мнение - сыровато пока, в прод бы не потащил

Roman Y
https://softwaremill.com/mqperf/

О, классное сравнение кстати. Заодно дает понять примерный порядок цифр для Кафки — почти миллион сообщений в секунду на один набор реплик, и наверняка упирается в диск, как и обещано. Но также там очень правильно сказано про то, что Кафку надо правильно сконфигурировать, чтобы не было непредвиденной потери данных, и это _не поведение по умолчанию_

Yuran
О, классное сравнение кстати. Заодно дает понять п...

Недавно читал книжку по Kafka от 2017 года, так там первым делом это и объясняется Т.е. если задаться вопросом "а какие гарантии обеспечиваются", то нужные настройки легко находятся

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта