Кафка.
retention.bytes - максимальный размер 1 партиции.
Допольнительно:
Есть ли способ выставить максимальный размер топика? Топиков 300+ с разным кол-ом партиций и либо руками выставлять, либо шаблон пилить(не хочется).
может лучше СТО уволить? у сообщений в топике есть время жизни, его можно уменьшать, разрабка должна нормально вычитывать данные, а не копить их тьму времени
Проблема не в этом. Проблема в том что могут возникнуть технические проблема на уровне сети\железа консьюмеров\ и тп. Данные не должны быть потеряны. Ретеншн стоит на сутки, но столкнулись с проблемой, что если кто то из продюсеров косячит - диск заполнен. Вот и ищу дополнительные ограничения для предотвращения аварии из-за одного продюсера.
уволить сто, и на сэкономленные деньги купить ssd/hdd, в принципе 1 з\п СТО хватит чтобы купить 40 тб места
знаешь, такие советы выглядят как: Хочешь перестать быть бедным? Просто не будь им! Растить размер это бред. Сейчас уже разрабам дал доку по compact и они переписывают, но хотелось бы со всех сторон подложить сена.
😂🤣ооо, компакт. лол. ещё 1 контора будет которая не понимает как оно работает
этими настройками выставляются дефолтные настройки для топиков. Для каждого топика можно выставить эти параметры отдельно через конфиг ./bin/kafka-topics.sh --bootstrap-server localhost:9092 --create --topic testtopic --partitions 12 --replication-factor 3 --config retention.ms=1209600000 также можно уже на созданном топике поменять
Обсуждают сегодня