Для чекпоинтов это не должно быть критично
Ну у самого спарка чекпоинты пока требуют хдфс лайк или юзайте датабрикс
А, внезапно Спарк откуда-то появился
Да в с3 пихай
да, они через FileSystem интефейс сделаны и на s3 там совсем неэффективная реализация
С3 медленнее будет
У вас нет кастомного ?
да эт чекпойнты ж
нет, там реализацию его патчили, в пару местах код тот ещё переписан на асинк, так как нам гарантии не столь критичны, если и потеряем пару обновлений, то не критично
Обсуждают сегодня