k8s?
В облаке
В котором хадуп запущен (emr привет)
Ну там есть и на куберах
Всё бы хорошо, сейчас ребилжу имейджи на свежую джаву с поддержкой cgoups v2 У нас старая java которая в них не умеет, а кубик уже переехал В итоге наблюдаем эффект когда одна и та же джоба при одинаковых ресурсах выполняется в 3!!! Раза медленнее чем выполняется в хадупе :( если обновление не поможет будем дальше копать пытаться
А спарк в докере на Ярне у вас есть?
Уже нету, их перекинули уже на кубик, но там питон и нативные либы были
Я просто уже перенес часть жоп из хайва на ярне а спарк в кубе. С инпутом типа 200ГБ И скоро встанет вопрос переноса жоп у которых инпут 1 - 2ТБ и аутпут примерно такого же размера Вот и думаю, насколько жизнеспособно это на спарке крутить
Обсуждают сегодня