184 похожих чатов

Здравствуйте, нужно экспертное мнение. Хочу сделать хранение логов nginx в

clickhouse в одно поле с типом JSON как сделано здесь https://clickhouse.com/blog/nginx-logs-to-clickhouse-fluent-bit. Чтобы сразу структурированные логи лить. На сколько это рационально с целом? Или лучше будет в таблице сделать кучу полей из лога (как сделано пример тут https://medium.com/datadenys/using-vector-to-feed-nginx-logs-to-clickhouse-in-real-time-197745d9e88b)

Первый вариант интересен с точки зрения что формат логов может поменяться и в целом при изменении формата нигде ничего отдельно донастраивать не придется. Не надо новые поля в таблу добавлять, адаптировать vector и тд. Но не понятно что с производительностью

+ понятно что есть elk например для этого. Но хочется именно ch заюзать ибо оно настроено и работает

6 ответов

17 просмотров

А почему не совместить? Хранить сразу всё + вынести те поля, по которым наиболее частые запросы?

Ne-Kit Автор вопроса
Stanislav Vlasov
А почему не совместить? Хранить сразу всё + вынест...

через mv? Типа кидать сырой лог и потом его через mv обрабатывать?

Ne Kit
через mv? Типа кидать сырой лог и потом его через ...

Как вариант. Ну или через агрегатора логов.

Ne-Kit Автор вопроса
Stanislav Vlasov
Как вариант. Ну или через агрегатора логов.

mv как я понял это триррер на помент попадания данных в таблу. Те не очень подходит в контексте того, что мы можем не знать что нам понадобится

Ne-Kit Автор вопроса
Stanislav Vlasov
Как вариант. Ну или через агрегатора логов.

А про агригатор логов не читал - поиду поресечу что это. ps ой я думал это фича ch какая то )

Ne Kit
А про агригатор логов не читал - поиду поресечу чт...

В данном случае - fluent или vector, как по ссылкам. Всё равно им логи собираются, можно и выдернуть нужное.

Похожие вопросы

Обсуждают сегодня

Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Ну вот просто даже давайте вот как. Какой нибудь конкретный кейс, можете в пример привести, где бч работает и приносит прикладную пользу, а не просто что бы было? Не крипту.
Alexander Andreev
22
объясните пожалуйста, почему функция не работает должным образом? вроде должно брать активное окно сравнивать его размер с размером экрана, и если есть совпадение = true прове...
JF
12
Гляньте, че бывает: Сегодня по одному проекту одной вебстудии делал проект небольшой, на их хостинге. На Modx revo. В определенный момент , работая в админке, вдруг перестал р...
Artem
7
лучше скажите, причём тут паскаль?
Alexey Kulakov
36
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
12
> Копаем глубже > Следующий момент был, когда я спросил его, знает ли он JavaScript. Он ответил, что его учили работать с C#. Я тоже в университете писал на C#, но даже там мн...
Oleg Volkov
4
И никого не интересует какие пакеты кто использует. ((% Заходишь на сайт симфони и видишь поддержку Украины - по законам РФ это ж экстремизм. Только никто не отказывается от с...
Am Ambrion
11
Кто нибудь либу Zstandart использовал ? Это либа для сжатия от Цукерберга
Andrey Electron
9
Чтобы перехватить все нажимания буков на форме, надо хук ставить? Пробовал на форме ОнКейДаун, оно ловит клаву если фокус не на компоненте с вводом текста
Serjone
15
Карта сайта