Привет! Например, у меня есть кластер с 2 группами нод, 1

Question

Привет! Например, у меня есть кластер с 2 группами нод, 1

группа это легкие ноды с небольшим кол-вом ресурсов для запуска фронтенда, 2 группа – мощные машинки с кучей ядер для ML.

В идеале мне бы хотелось, чтобы количество мощных машинок сокращалось до 0 и не тратились деньги, когда они не используются, а если поступает запрос на ML, то новая мощная нода поднималась бы хотя бы секунд за 30.

Возможно ли это?

#devops #kubernetes #programming #russian

0

08.05.2023

20 ответов

8 просмотров

.sha Автор вопроса

George Gaál
Да

читаю доку к cluster-autoscaler, но там есть упоминания “мы ожидаем, что новая нода будет поднята в течение 15 минут” – от чего зависит скорость поднятия новой ноды? Только от облачного провайдера, на котором мой кластер запущен?

0

12 месяцев назад

George Gaál

.sha
читаю доку к cluster-autoscaler, но там есть упоми...

В том числе, но если у тебя Амазон - я бы рекомендовал karpenter

0

12 месяцев назад

.sha Автор вопроса

George Gaál
В том числе, но если у тебя Амазон - я бы рекоменд...

у меня yandex cloud, они используют autoscaler

0

12 месяцев назад

Kirill Garbar

George Gaál
В том числе, но если у тебя Амазон - я бы рекоменд...

А почему карпентер? Мы юзаем обычный автоскейлер и он с амазоном работает норм, но думаем переходить потому что карпентер поддерживает podSpreadConstraints. Почему именно для амазона рекомендуешь?

0

12 месяцев назад

Serhii Sergey

Kirill Garbar
А почему карпентер? Мы юзаем обычный автоскейлер и...

амазоном писанный для амазона)

0

12 месяцев назад

George Gaál

Kirill Garbar
А почему карпентер? Мы юзаем обычный автоскейлер и...

Потому что карпентер гораздо более гибкий

0

12 месяцев назад

Igor

Kirill Garbar
А почему карпентер? Мы юзаем обычный автоскейлер и...

Хотя бы потому что карпентер поднимает ноду за минуту

0

12 месяцев назад

Kirill Garbar

Igor
Хотя бы потому что карпентер поднимает ноду за мин...

Честно говоря я думал, что это зависит в основном от облака, а не автоскейлера. Но учту, спасибо

0

12 месяцев назад

Sebor▂▅▇█▓▒░

Kirill Garbar
Честно говоря я думал, что это зависит в основном ...

Конечно от облака) Чудес не бывает. Просто карпентер реагирует на "ситуацию" намного быстрее. И ещё там основное отличие в том, что он оперирует просто нодами, а не асг

0

12 месяцев назад

Kirill Garbar

Sebor▂▅▇█▓▒░
Конечно от облака) Чудес не бывает. Просто карпент...

Понял. Т.е. при переходе на него надо будет не только другой компонент задеплоить, но и логику создания кластера поменять. Т.е. быстрее может быть как раз за счёт того, что не добавляется задержка реакции автоскейлинг группы

0

12 месяцев назад

Dobry kot

Нравится фраза секунд за 30)

0

12 месяцев назад

Slach [altinity]

=) да, тоже порадовало увы, даже AWS Fargate который специально делали для быстрого старта это 60-90 секунд в AWS EKS + karpenter новая нода стартует минуты 3-10 а если очень жирная. то может и не стартовать вообще если в регионе таких машин нет а зачем вам куча CPU ядер? для ML же GPU больше нужен или у вас там много подготовки на CPU?

0

12 месяцев назад

Anton Chaporgin

Мы используем pause pods чтобы всегда иметь фиксированное количество нод в резерве без нагрузки.

0

12 месяцев назад

Sergei Monakhov

Anton Chaporgin
Мы используем pause pods чтобы всегда иметь фиксир...

И платить за них?

0

12 месяцев назад

Anton Chaporgin