Доброго дня. Подскажите, пожалуйста, насколько хорошо/плохо в кафку отправлять в

одном сообщении список сущностей, вместо одной?

12 ответов

10 просмотров

Нюанс в том что вы не сможете частично закоммитить оффсет - если вы смогли обработать часть списка, то вы либо будете опять все сообщение читать без коммита либо больше не прочитаете с коммитом. Если вам пофиг на это, то и норм.

Ограничение в 1мб. Лучше писать пачку сообщений батчем и батчем же читать. Будет сильно эффективнее и проще

Старый Хрыч
нет ограничения в 1 мб, и 30 спокойно можно

Всего в 4 местах настройки подкрутить нужно

Старый Хрыч
нет ограничения в 1 мб, и 30 спокойно можно

По дефолту есть. Ну и как бы жирные сообщения это антипаттерн.

Ivgenich
По дефолту есть. Ну и как бы жирные сообщения это ...

хз нап счёт антипаттерна, если много данных, то при мелких вообщениях меньше проходимость

Ivgenich
По дефолту есть. Ну и как бы жирные сообщения это ...

хех, такой же паттерн только он дает больше throughput причем иногда на порядки в то время как малые отдельные они про уменьшение latency в ущерб throughput

Ivgenich
Трупут можно же батчами накрутить

можно, но это вопрос про проектирование всей системы - нужны НФТ чтобы ответить что лучше, а то может тут один файл раз в день кидается, то можно как угодно сделать

Старый Хрыч
Если там 1 файл то нахрена там Кафка

всякое бывает, из соседнего отдела надуло, CTO гдето услышал, просто хочется навык работы с кафкой получить на реальной задаче, да куча вариантов где кафка не к месту и только добавляет проблемы, но используется)

Похожие вопросы

Обсуждают сегодня

Ребята, всем привет. Подскажите, пожалуйста, можно ли как-то через бота понять, что этого бота добавили в группу\канал и выдали ему права администратора?
Artem Stormageddon
9
Это переведённый текст с английского. Я не говорю на русском, но могу использовать переводчик Телеграм. Приветствую! Я начинающий веб-разработчик и все еще учусь. В настояще...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
2
А не хотим ли мы развлечься? 😉 Но так чтобы с пользой для наших профессиональных навыков?? 👨‍🎓👩‍🎓 Предлагаю на октябрь запланировать тестовый запуск новой командной игры "Игр...
Andrii Kurdiumov
2
Привет всем! Почему этот код не срабатывает при добавлении или удалении пользователя из чата? bot.on('chat_member', async (ctx) => { console.log(ctx); }) bot.launch({allo...
Alexander
5
у кого сколько оперативы на базе данных ?
АДИЛЬБЕК
4
Через бот апи возможно получить ID стикерпака? Не ссылку.
Vexylon [АФК до 09.09]
5
Привет Хочу сделать аналог iCloud’а для своих проектов, чтобы пользовательская информация хранилась в облаке, была доступна во всех сервисах, её можно было подсасывать везде)...
Виталий
9
В тг можно спарсить всех кто пишет в группе? Если список участников скрыт
S
3
код Event::listen('cms.page.display', function (&$content, $slug, $page, $html) { if (is_object($content)) { dump($content); } else { dump($s...
Point 111
3
Доброе утро, мультиязычные сайты делал кто-нибудь? Какие подводные камни? Нужно чего нибудь допом ставить? Как поступить? В теории сделать две папки ru en и туда кидать страни...
Racoon Mitya
2
Карта сайта