Привет. У меня 20 воркеров, которые делают одну и ту же

работу в одних и тех же условиях, но почему-то у одних воркеров LAG большой, а у других маленький. Есть какие-то очевидные причины почему так может быть?

7 ответов

15 просмотров

а колво сообщений в партициях одинаковое примерно?

data locality?

Dmytro-Striletskyi Автор вопроса
Oleg
а колво сообщений в партициях одинаковое примерно?

Да. Даже те воркеры, у которых LAG меньше, заасайнены в партишены, у которых сообщений больше.

Dmytro-Striletskyi Автор вопроса
Oleg
а насколько больше лаг?

В 5-20 раз разница (по-разному), в основном это где-то 30% самый большой, 30% средний, и 30% совсем маленький. Например, 7 воркеров по 10К, 7 по 3К, 7 по 180.

Dmytro Striletskyi
В 5-20 раз разница (по-разному), в основном это гд...

может такое быть что флуктуация в логике обработки сообщений? БД тормозит, разные мощности у машин, разная логика для разных сообщений?

Сначала проверь распределение данных по партициям, хеширование несовершенно и вполне может быть, что у тебя одни партиции переполнены, в то время как другие пустуют. Если не это, то проверь байтрейт на все участвующие машины, если сетевая проблема, что случается часто, особенно на облаках, то некоторые воркеры просто физически не получают свои данные с той же скоростью, с которой их получают остальные. И только потом можно грешить на 1) виртуализацию, 2) рантайм и конфигурацию приложения и 3) железо в том порядке, в котором я озвучил. Это из моего личного опыта с такими проблемами.

Похожие вопросы

Обсуждают сегодня

Ребята, всем привет. Подскажите, пожалуйста, можно ли как-то через бота понять, что этого бота добавили в группу\канал и выдали ему права администратора?
Artem Stormageddon
9
Это переведённый текст с английского. Я не говорю на русском, но могу использовать переводчик Телеграм. Приветствую! Я начинающий веб-разработчик и все еще учусь. В настояще...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
3
А не хотим ли мы развлечься? 😉 Но так чтобы с пользой для наших профессиональных навыков?? 👨‍🎓👩‍🎓 Предлагаю на октябрь запланировать тестовый запуск новой командной игры "Игр...
Andrii Kurdiumov
2
Привет всем! Почему этот код не срабатывает при добавлении или удалении пользователя из чата? bot.on('chat_member', async (ctx) => { console.log(ctx); }) bot.launch({allo...
Alexander
5
у кого сколько оперативы на базе данных ?
АДИЛЬБЕК
4
Через бот апи возможно получить ID стикерпака? Не ссылку.
Vexylon [АФК до 09.09]
5
Привет Хочу сделать аналог iCloud’а для своих проектов, чтобы пользовательская информация хранилась в облаке, была доступна во всех сервисах, её можно было подсасывать везде)...
Виталий
9
В тг можно спарсить всех кто пишет в группе? Если список участников скрыт
S
3
код Event::listen('cms.page.display', function (&$content, $slug, $page, $html) { if (is_object($content)) { dump($content); } else { dump($s...
Point 111
3
Всем привет. Не понимаю, в чём тут шутка юмора. Убирается только разрешение на send_messages. А send_media_messages остаётся. Как сделать, чтобы оба убирались? await b...
Alexander
2
Карта сайта