Коллеги, подскажите я правильно понял? log.retention.bytes - максимальный размер лога ВСЕЙ

Кафка.
retention.bytes - максимальный размер 1 партиции.

Допольнительно:
Есть ли способ выставить максимальный размер топика? Топиков 300+ с разным кол-ом партиций и либо руками выставлять, либо шаблон пилить(не хочется).

6 ответов

21 просмотр

может лучше СТО уволить? у сообщений в топике есть время жизни, его можно уменьшать, разрабка должна нормально вычитывать данные, а не копить их тьму времени

Denis-Vlasov Автор вопроса
Старый Хрыч
может лучше СТО уволить? у сообщений в топике есть...

Проблема не в этом. Проблема в том что могут возникнуть технические проблема на уровне сети\железа консьюмеров\ и тп. Данные не должны быть потеряны. Ретеншн стоит на сутки, но столкнулись с проблемой, что если кто то из продюсеров косячит - диск заполнен. Вот и ищу дополнительные ограничения для предотвращения аварии из-за одного продюсера.

Denis Vlasov
Проблема не в этом. Проблема в том что могут возни...

уволить сто, и на сэкономленные деньги купить ssd/hdd, в принципе 1 з\п СТО хватит чтобы купить 40 тб места

Denis-Vlasov Автор вопроса
Старый Хрыч
уволить сто, и на сэкономленные деньги купить ssd...

знаешь, такие советы выглядят как: Хочешь перестать быть бедным? Просто не будь им! Растить размер это бред. Сейчас уже разрабам дал доку по compact и они переписывают, но хотелось бы со всех сторон подложить сена.

Denis Vlasov
знаешь, такие советы выглядят как: Хочешь перестат...

😂🤣ооо, компакт. лол. ещё 1 контора будет которая не понимает как оно работает

этими настройками выставляются дефолтные настройки для топиков. Для каждого топика можно выставить эти параметры отдельно через конфиг ./bin/kafka-topics.sh --bootstrap-server localhost:9092 --create --topic testtopic --partitions 12 --replication-factor 3 --config retention.ms=1209600000 также можно уже на созданном топике поменять

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Объясните, пожалуйста, почему компилятор ругается на использование в условии неинициализированной переменной: int x; Task.Run(async () => { x = await somefunc(); }).Wait...
Александр
5
Ребят, подскажите, пожалуйста, почему в префиксе к ассетам, которые генерируются через фильтр | theme в шаблоне, стал вдруг появляться index.php? Вот так выглядит ссылка на а...
Виталий
1
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
4
Блин, ребята, сори за тупые вопросы. А можно ли как-то открыть вебапку по нажатию на кнопку в меню(которое появляется слева, команды)?
Artem Stormageddon
3
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
Коллеги, может знает кто, можно ли цвет бейджа счётчика в BackendMenu менять без бубнов?
Alex Blaze
3
Карта сайта