184 похожих чатов

А клик умеет пропускать сообщения из кафки с невалидным json? то

есть как бороться с такими ошибками?
Unexpected end of file while parsing JSON object

12 ответов

16 просмотров

Умеет, вы должны написать в таблице с движком kafaka kafka_skip_broken_messages = 65536. Цифры говорят о том сколько записей из пачки сможет пропустить. Я указываю у себя этот параметр равный параметру пачки данных, с которой работаю

Roman-Дубатов Автор вопроса
who
Умеет, вы должны написать в таблице с движком kafa...

спасибо, а почему именно такое значение?

Roman Дубатов
спасибо, а почему именно такое значение?

kafka_skip_broken_messages — максимальное количество некорректных сообщений в блоке. 65536 - это количество сообщений с которыми работает kafak engine по дефолту. Т.е если у вас придут все данные невалидеые, вы сможете все пропустить и не упасть

Roman-Дубатов Автор вопроса
Roman Дубатов
всё равно жалуется на строку

kafka_format = 'JSONEachRow'? Еще если у вас могут придти неописанные поля, то надо указать input_format_skip_unknown_fields = 1

Roman-Дубатов Автор вопроса
who
kafka_format = 'JSONEachRow'? Еще если у вас могут...

да, тут вопрос скорее не в лишних полях, а возможном битом json, например { «name»: «hello» он такое пропустит?

Roman-Дубатов Автор вопроса
who
Все что не сможет распарсить пропустит

для теста отправил сообщение { установил все значения, ошибка не пропала … kafka_format = 'JSONAsString', input_format_skip_unknown_fields = 1, kafka_skip_broken_messages = 100000 DB::Exception: Unexpected end of file while parsing JSON object.: (Input format doesn't allow to skip errors)

Roman-Дубатов Автор вопроса
who
попробуйте поменять kafka_fromat

разые что ошибка поменялась) Unexpected end of stream while parsing JSONEachRow format: While executing SourceFromInputStream

Roman Дубатов
разые что ошибка поменялась) Unexpected end of str...

А как вы проверяете? Напрямую вставляете в таблицу или вставляете в kafka и уже от туда получаете данные?

Похожие вопросы

Обсуждают сегодня

Типа вызывать GetParent и проверять на соответствие GetModuleHandle?
The Bird of Hermes
67
Do any of you guys have interesting projects one could join? I'm a Middle Full-Stack developer (JS/TS, React & Node)
Lev Shapiro
40
Есть сайт. Там была древняя версия эво. Стоял плагин, который каждый коммент в Jot делал отдельной страницей. После обновления все слетело, теперь старница открывается отдельн...
Artem
1
Всем привет! Кто нибудь парсил в ручную JSON без библиотек и фреймворков? Есть может ссылки на оптимальный алгоритмы работы с текстом и примеры таких парсеров?
Lem
27
$res = json_decode($наша строка из респонса); $res1 = array_map(fn($o) => $o->name, $res->breadcrumbs[0]->entities); Как такое будет на Хаскеле?.. В начале весь джейсон, в ко...
Хаскель Моисеевич Гопник
27
Добрый день. А shovel'ы можно как-то сконфигурировать в definitions.json? Пробовал что-то вроде: { "users": [ { "name": "agent", "password_hash": "RBCbTzQd...
Aleksey
1
Вопрос по диагностике ошибок (я знаю в чем, в данном конкретном примере, я знаю, как исправить, пример модельный, понятно, что в реальности бывает намного запутаннее). module...
ⰄⰎⰋⰐⰐⰑⰛⰤⰧⰧⰩⰄ ⰊⰑⰁⰓⰡⰛⰦⰕⰫ
11
В чем сила брат, в NASM или FASM?
Isaac Kleiner
18
А чем вам питонисты не угодили?😂
.
79
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
52
Карта сайта