Ребят, всем привет! Python, библиотека kafka-python. Вопрос такой: Отправляю джейсоны в кафку, большое

количество.
Сперва отправлял list джейсонов вот так:

kafkaproducer.send(list_of_json)
Все отправлялось очень быстро

Потом получил требования от консьюмера, что он может читать только по одному джейсончику в сообщении, т.е. отправлять нужно так:

for msg in list_of_json:
kafkaproducer.send(msg)

это оказалось ОЧЕНЬ долго, все висит, отваливается, компуктер умирает.

Вопрос:
Можно ли как-то настроить kafkaproducer чтобы я складывал в него list сообщений, а он под капотом как-то отправлял их по одному?
т.к. мне кажется, что основная проблема в куче подключений/питоновских циклах и т.д.

Либо есть другой способ складывать лист сообщений в продьюсера так, чтоб они в итоге оказывались в кафке отдельными сообщениями?

1 ответов

8 просмотров

Попробуй установить linger_ms=10ms для продюсера

Похожие вопросы

Обсуждают сегодня

Читаю сейчас [нет, уже больше не читаю!] курсовую о Булгакове, написанную, похоже, с помощью ChatGPT. Это удивительный психоделический опыт. Текст в основном написан в стиле б...
✨ Uni [🌊 В отпуске]
1
То есть если оно есть, то дальше всем похуй, даже если я рядом ссылку на оплату ставлю?
■_|ilya|_■
3
Добрый день! Кто-нибудь сталкивался со следующей проблемой? В Тейлоре при изменении репитера через черновик, при сохранении и применении черновика поле с репитером не перезапи...
Николай Афанасенко
1
40 тысяч в час / 3600 = 11,11 в секунду... Вам точно нужна очередь? (я просто не знаю "контекста") Такое количество запросов любое приложение замечательно "прожует" и не попер...
Igor Mitin
5
Всем салют, заинтересовался odoo, хотел бы поинтересоваться на счёт этой ERP , прогеры которые работают над проектами вы используете odoo как серверную платформу работая с RES...
⚔️
8
За успешный взлом дают оффер или 5 лет?
■_|ilya|_■
3
вопрос: кто как решает вопрос с динамической подгрузкой скриптов для отдельных страниц с включенным turbo router?
Sergei Toroptsev
25
а в repeater есть функционал в repeater дублировать все с оригинального языка?
Sergei Toroptsev
3
А как асинхрон иначе реализован? Пардон:)
Ivan K 🏄🏻‍♂️
7
Сonst magicTgHTML = (text, entities) => { let processedText = text; let offsetShift = 0; entities.forEach(entity => { const { offset, length, type, url, ...
Андрей
1
Карта сайта