184 похожих чатов

А как сделать, чтобы он все сообщение в одной поле

вставлял без парсера? JSONAsString?

13 ответов

21 просмотр

да JSONAsString CREATE TABLE Test.queue ( j String ) ENGINE = Kafka('localhost:9092', 'TestData', 'group1', 'JSONAsString')

Ekaterina- Автор вопроса
Denny [Altinity]
да JSONAsString CREATE TABLE Test.queue ( j S...

получилось, спасибо, я зациклилась на том, что поля - это структура сообщения kafka timestamp, level, message, хотя level меня несколько смущал 😁

Ekaterina
получилось, спасибо, я зациклилась на том, что пол...

но вообще kafka engine сам может разобрать сообщение JSONEachRow CREATE TABLE Test.queue ( UserUid String, Time UInt64, Country String ) ENGINE = Kafka('localhost:9092', 'TestData', 'group1', 'JSONEachRow') в mativew просто нужно будет преобразовать toUUIDOrZero(UserUid) , toDateTime(Time) ....

Ekaterina- Автор вопроса
Denny [Altinity]
но вообще kafka engine сам может разобрать сообщен...

Ну, да, я поняла. Заодно, поделитесь мнением, пожалуйста,благонадежно этим движком пользоваться? Или лучше отдельный сервис использовать для загрузки сообщение из кафки в клик?

Ekaterina
Ну, да, я поняла. Заодно, поделитесь мнением, пожа...

ИМХО конечно нельзя пользоваться kafka=engine. НО десятки тысяч пользователей КХ абсолютно счастливо используют kafka=engine

Ekaterina- Автор вопроса
Denny [Altinity]
ИМХО конечно нельзя пользоваться kafka=engine. Н...

Спасибо ) примерно это и ожидала услышать.

Denny [Altinity]
ИМХО конечно нельзя пользоваться kafka=engine. Н...

Добрый день, перечитываю чат в рамках обучения. Подскажите, пожалуйста, какие подводные камни есть в Kafka engine ? Где-то можно почитать?

Никита Ильин
Добрый день, перечитываю чат в рамках обучения. По...

Есть классная тема, если из Кафки приходит столбец с названием channelid, то там данных в КХ не будет.

Никита Ильин
Добрый день, перечитываю чат в рамках обучения. По...

Гарантирует только at least once. Иногда будут дубли, и если данные критичны, придётся что-то с этим делать(писать уникальный id записи например + replacing использовать)

Никита Ильин
Добрый день, перечитываю чат в рамках обучения. По...

он не очень гибкий. Не очень удобно поддерживать обработку ошибок в сообщениях, если есть топики из разных брокеров и таких брокеров много это все сложно настраивать и нужен рестарт КХ, он не умеет exactly once. Но exactly once почти вообще никто не умеет из коробки для КХ. Тут дело такое. Я как Альтинити инженер на первом же митинге с новым клиентом, рассказываю: что kafka engine убог и вообще говно, вы такие умные используете spark и понятно что json ужасен из-за дичайшего оверхеда, давайте сделаем POC kafka engine+JSONEachRow, а потом вы перепилите все без kafka engine и перейдете на TSV вместо JSON. Делаем POC, все всем нравится, и в итоге в прод большинство прям так и идут, пофиг и на оверхед по CPU и трафику и на что есть дубли в 0.00001% случаев. Я конечно в жизни не стал бы использовать kafka engine в проде, это безумие, но я и в distributed таблицы не вставляю. Мне проще кода нафигачить или других заставить сделать как я хочу, а не как проще.

Serge Paschanin
Есть классная тема, если из Кафки приходит столбец...

ну это баг, это надо репортить, исправить это минут 5 займет и я бы проверил что у вас в слове channelid , все буквы латиницей,потому что в коде КХ и librd я не вижу channelid. Есть _channel_id в engine=rabbit

Похожие вопросы

Обсуждают сегодня

Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
> Копаем глубже > Следующий момент был, когда я спросил его, знает ли он JavaScript. Он ответил, что его учили работать с C#. Я тоже в университете писал на C#, но даже там мн...
Oleg Volkov
4
И никого не интересует какие пакеты кто использует. ((% Заходишь на сайт симфони и видишь поддержку Украины - по законам РФ это ж экстремизм. Только никто не отказывается от с...
Am Ambrion
11
лучше скажите, причём тут паскаль?
Alexey Kulakov
36
Чтобы перехватить все нажимания буков на форме, надо хук ставить? Пробовал на форме ОнКейДаун, оно ловит клаву если фокус не на компоненте с вводом текста
Serjone
15
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
7
Народ! Впервые клиенту пришло письмо от РКН, у вас, дескать, есть яндекс метрика, а нигде не написано, что вы ее юзаете. Никто не сталкивался?
Sasha Beep
14
Всем привет! вывожу на общей стр дочерние ресурсыв каждом ресурсе галерея, и первая фотка должна выводиться на общей [!DocLister? &prepare=photo !]
Alekso
12
А можно вопрос? Мне сегодня сказали что у меня функция (которая просто заполняет массив значениями) не правильная void Full(double * arr, int n) { for (int i = 0; i < n; i...
† C E †
7
Добрый вечер. Хочу чтобы у меня в классе поле было функцией, которая возвращает строку. Делаю так: interface ... TGetOutPath = function : String of object; ... protec...
Kirill Filippenok
12
Карта сайта