184 похожих чатов

А клик умеет пропускать сообщения из кафки с невалидным json? то

есть как бороться с такими ошибками?
Unexpected end of file while parsing JSON object

12 ответов

22 просмотра

Умеет, вы должны написать в таблице с движком kafaka kafka_skip_broken_messages = 65536. Цифры говорят о том сколько записей из пачки сможет пропустить. Я указываю у себя этот параметр равный параметру пачки данных, с которой работаю

Roman-Дубатов Автор вопроса
who
Умеет, вы должны написать в таблице с движком kafa...

спасибо, а почему именно такое значение?

Roman Дубатов
спасибо, а почему именно такое значение?

kafka_skip_broken_messages — максимальное количество некорректных сообщений в блоке. 65536 - это количество сообщений с которыми работает kafak engine по дефолту. Т.е если у вас придут все данные невалидеые, вы сможете все пропустить и не упасть

Roman-Дубатов Автор вопроса
Roman Дубатов
всё равно жалуется на строку

kafka_format = 'JSONEachRow'? Еще если у вас могут придти неописанные поля, то надо указать input_format_skip_unknown_fields = 1

Roman-Дубатов Автор вопроса
who
kafka_format = 'JSONEachRow'? Еще если у вас могут...

да, тут вопрос скорее не в лишних полях, а возможном битом json, например { «name»: «hello» он такое пропустит?

Roman-Дубатов Автор вопроса
who
Все что не сможет распарсить пропустит

для теста отправил сообщение { установил все значения, ошибка не пропала … kafka_format = 'JSONAsString', input_format_skip_unknown_fields = 1, kafka_skip_broken_messages = 100000 DB::Exception: Unexpected end of file while parsing JSON object.: (Input format doesn't allow to skip errors)

Roman-Дубатов Автор вопроса
who
попробуйте поменять kafka_fromat

разые что ошибка поменялась) Unexpected end of stream while parsing JSONEachRow format: While executing SourceFromInputStream

Roman Дубатов
разые что ошибка поменялась) Unexpected end of str...

А как вы проверяете? Напрямую вставляете в таблицу или вставляете в kafka и уже от туда получаете данные?

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
15
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Карта сайта