Чтобы он делал больше iops, но с меньшим количеством блоков?
Смотрю исходники последней Кафки, есть параметры у конструктора Cleaner, ограничивающие IO. Думаю, если сделать меньше буфер, то получите желаемый эффект. Вопрос только в том, можете ли вы обновиться.
Спасибо за ответ, кафку планирую попробовать обновить, в любом случае пора. Хотят, чтобы write io size был поменьше, iops-ов будет получается большею. Получаю жалобы от овнеров SSD хранилища. На VM где не было кафки все решилось просто настройками io schedullera, с Кафкой все никак не могу понять причину. Пытался разобраться, что происходит по коду, как мог, и в 0.11.0.2 этот участок и параметр тоже есть в таком же виде, менял его и maxMessageSize, в общем все опции которые как-то с буферами связаны и никаких измнений. Соотвественно все проблемы уходят если log.cleaner.enable = false или удалены все топики которые compacted.
Обсуждают сегодня