Добрый день! Есть сервис, он шлет жсон в кафку в

Question

Добрый день! Есть сервис, он шлет жсон в кафку в

топик, тот попадает в таблицу-очередь в clickhouse.
Дальше есть materialize view, который селектит данные из очереди, и кладет в другую "финальную" таблицу.
Локально(КХ запускается в докере) - все хорошо, все пишется, все селектится.
На проде(КХ стоит на отдельной машине) вот такая ошибка в логах:

2022.06.08 14:31:36.981337 [ 2658 ] {} <Error> void DB::StorageKafka::threadFunc(size_t): Code: 41. DB::ParsingException: Cannot parse datetime: Cannot parse DateTime from String: while converting source column registration_date to destination column registration_date: while executing 'FUNCTION _CAST(registration_date :: 8, DateTime('Europe/Moscow') :: 24) -> _CAST(registration_date, DateTime('Europe/Moscow')) DateTime('Europe/Moscow') : 23': while pushing to view default.consumer (3dff6585-bbaf-4977-a085-3a10771b9690). (CANNOT_PARSE_DATETIME), Stack trace (when copying this message, always include the lines below):

поле registration_date в materialize view селектится так:
JSONExtractString(`all`, 'registration_date') as registration_date

в самом json лежит дата формата 2022-11-26T08:08:19(достал из мониторинга кафки).
пробовали в селекте оборачивать в функцию parseDateTimeBestEffort - не помогло.
билды КХ на проде и в докере одинаковые.

Подскажите, пожалуйста, в чем может быть проблема? в какую сторону копать?

#backend #clickhouse #database #devops #programming #russian

0

08.06.2022

9 ответов

27 просмотров

твой братишка Автор вопроса

Дмитрий
Нужно указать формат.

можно чуть поподробнее?

0

08.06.2022

Дмитрий

твой братишка
можно чуть поподробнее?

Ошибка CANNOT_PARSE_DATETIME говорит прямо "не могу понять как эти ваши данные '2022-11-26T08:08:19' представить в виде DateTime('Europe/Moscow')" - решение кастованием объясните что в этих данных есть что.

0

08.06.2022

твой братишка Автор вопроса

Дмитрий
Ошибка CANNOT_PARSE_DATETIME говорит прямо "не мог...

сейчас попробую, спасибо. а почему локально работает? из-за чего может быть разница поведения?

0

08.06.2022

твой братишка Автор вопроса

Дмитрий
Ошибка CANNOT_PARSE_DATETIME говорит прямо "не мог...

не подскажите с помощью какой функции это можно сделать? CAST(JSONExtractString(`all`, 'registration_date') AS DateTime) as registration_date так корректно? вы это имели ввиду?

0

08.06.2022

Дмитрий

твой братишка
не подскажите с помощью какой функции это можно сд...

https://clickhouse.com/docs/ru/sql-reference/data-types/datetime/

0

08.06.2022

Дмитрий

твой братишка
не подскажите с помощью какой функции это можно сд...

SELECT toDateTime('2019-01-01 00:00:00', 'Europe/Moscow'); SELECT toDateTime('2019-01-01T00:00:00', 'Europe/Moscow')

0

08.06.2022

твой братишка Автор вопроса

Дмитрий
SELECT toDateTime('2019-01-01 00:00:00', 'Europe/M...

прошу прощения, в исходной таблице не было указания таймзоны Europe/Moscow. это уже после экспериментов добавлено(и трейс оттуда). причем, самое интересное, что рядом есть такая же дата, и поле DateTime(Europe/Moscow) - и на него не ругается(само поле выше).

0

08.06.2022

Denny [Altinity]

твой братишка
сейчас попробую, спасибо. а почему локально работ...

Возможно отличается сеттинг date time input format

0

08.06.2022

Дмитрий · Accepted Answer

Дмитрий

Нужно указать формат.

0

08.06.2022

184 похожих чатов

Добрый день! Есть сервис, он шлет жсон в кафку в

9 ответов

Похожие вопросы