Ребят, всем привет. Пытаюсь завести спарк+эирфлоу в докере. Делаю это первый

раз.
Джоба вроде как-то определяется, но видимо, после того, как мастер получил задачу, он не может найти воркеры.
Подскажите пожалуйста, куда покопать?
Спасибо

7 ответов

6 просмотров

А как он их найдёт, если он в докере, а они нет?

Vitalik- Автор вопроса
Евгений Глотов
А как он их найдёт, если он в докере, а они нет?

И эирфлоу тоже в докере, логика внутри дага. Если подскажете поконкретнее, что вы имеете в виду - буду благодарен

Vitalik- Автор вопроса

Тут про экспоуз написано: https://github.com/sdesilva26/docker-spark/blob/master/TUTORIAL.md#docker--apache-spark

Vitalik- Автор вопроса

Как спарк-сессия создаётся, чтоб таски отправить мастеру? Какой конфиг прописан?

Похожие вопросы

Обсуждают сегодня

Сonst magicTgHTML = (text, entities) => { let processedText = text; let offsetShift = 0; entities.forEach(entity => { const { offset, length, type, url, ...
Андрей
1
Чет мне ссыкотно опять Rainlab.User в проект ставить. Кто знает, опять наотъебись все сделали или после обнов пользоваться можно?
Black Cat
10
это группа токсиков или тех кто помогает?
Ибрагим
9
коллеги привет. уже второй день бьемся об заклад с одной ошибкой, может вы сталкивались с таки странным поведением? есть тестовый сервер, на который паблишим релизную версию W...
Magzhan
11
В смысле более затратная? Общая стоимость владения лошадью меньше, чем автомобиля. В среднем.
Sergej R
10
Можете помочь с этим, я тут использую Джанго как ОРМ для бота, но бот запускать не хочет, уже всезде перерыл не могу решить, может кто то сталкивался?
Ибрагим
4
Кстати, раз про скачивание файлов разговор зашел) Сделал бота для себя (транскрибирующего и суммаризирующего встречи) но не ожидал что за 2 месяца 10к пользователей набежит😅...
Andrey Obolenskiy
8
всем привет. подскажите. сделал политику, он верхнеуровневая. раздал права только на TEST2 (полные). вопрос - можно ли сделать так, чтобы был доступен только TEST2, а остально...
Андрей Сергеев
5
t.me/<username> и tg://user?id=<id> отваливаются по понятным причинам
Denis 🐍|👑 | darling! 🥰
7
Слушайте, а при создании навигации на Tailor рили нельзя определять активный пункт навигации, как в Static Pages?
Pavel Lautsevich
11
Карта сайта