Коллеги, приветствую. В Kafka приходит timestamp '2023-05-30T07:54:13.8335260Z', как DateTime64 не парсится

Question

Коллеги, приветствую. В Kafka приходит timestamp '2023-05-30T07:54:13.8335260Z', как DateTime64 не парсится

из-за Z.
Вышел из ситуации, считывая из Kafka String с дальнейшим преобразованием в DateTime64 на уровне Mat View.
Выглядит как костыль. Есть ли более изящный способ?

#backend #clickhouse #database #devops #programming #russian

0

30.05.2023

10 ответов

24 просмотра

Igor Chizhov Автор вопроса

Спасибо ) Не люблю лишних преобразований, но в данном случае похоже без них не обойтись.

0

30.05.2023

Denny [Altinity]

Igor Chizhov
Спасибо ) Не люблю лишних преобразований, но в дан...

Зависит от формата , есть настройка inputformatdatetime=besteffort

0

30.05.2023

Igor Chizhov Автор вопроса

Denny [Altinity]
Зависит от формата , есть настройка inputformatdat...

Ну вот, а говорите мой способ изящный ))) date_time_input_format='best_effort' в настройках таблицы Kafka Engine заработало отлично ) Спасибо!

0

30.05.2023

Denny [Altinity]

Igor Chizhov
Ну вот, а говорите мой способ изящный ))) date_tim...

видимо мы по разному понимаем значение слова изящный

0

30.05.2023

Igor Chizhov Автор вопроса

Denny [Altinity]
видимо мы по разному понимаем значение слова изящн...

Возможно я неправ в терминологии) Надо было спросить про штатный способ. Костыли-то тоже изящные бывают )))

0

30.05.2023

Denny [Altinity]

Igor Chizhov
Возможно я неправ в терминологии) Надо было спроси...

мат.вью делает ETL , ETL именно оно и есть из строки сделаем extract date_time_input_format='best_effort' замедляет конвертацию datetime, устанавливая эту настройку (которая работает не для всех форматов и не всегда), вы замедляете парсинг всех полей, поэтому я предпочитаю использовать явные преобразования в matview вместо магии которая стреляет по коленям во внезапные моменты времени.

0

30.05.2023

Igor Chizhov Автор вопроса

Denny [Altinity]
мат.вью делает ETL , ETL именно оно и есть из стро...

К сожалению, не знаю всех нюансов внутреннего устройства ClickHouse. Спасибо, что просвещаете! )

0

30.05.2023

Igor Chizhov Автор вопроса

Denny [Altinity]
мат.вью делает ETL , ETL именно оно и есть из стро...

Ещё вопрос - а можно как-то управлять частотой обновления мат. вью? Сейчас обновляется раз в 7-8 секунд, стоит задача обновлять раз в секунду.

0

30.05.2023

Denny [Altinity]

Igor Chizhov
Ещё вопрос - а можно как-то управлять частотой обн...

все ответы тут https://youtu.be/1LVJ_WcLgF8?list=PLO3lfQbpDVI-hyw4MyqxEk3rDHw95SzxJ&t=7597 https://den-crane.github.io/Everything_you_should_know_about_materialized_views_commented.pdf

0

30.05.2023

Denny [Altinity] · Accepted Answer

Denny [Altinity]

Это и есть изящный

0

30.05.2023

184 похожих чатов

Коллеги, приветствую. В Kafka приходит timestamp '2023-05-30T07:54:13.8335260Z', как DateTime64 не парсится

10 ответов

Похожие вопросы