Джентельмены, а вот скажите такую штуку. Есть в Spark SQL такая

конструкция: LOAD DATA LOCAL INPATH /path/to/local/data.

Собственно, имею спросить:
- если у меня локальная spark-сессия (--master=local), то верно ли, что данные по этому пути будут искать у меня на локальном хосту?
- а если у меня удалённая spark-сессия (--master=yarn), то на каком хосту будут искать данные по этому пути?

3 ответов

10 просмотров

Локальному каждого екзекутора

Felix-Neko Автор вопроса
Grigory Pomadchin
Локальному каждого екзекутора

А если папка по сети примонтирована у всех экзекуторов, то её не загрузят в таблицу N раз, по числу этих самых экзекуторов?

Felix Neko
А если папка по сети примонтирована у всех экзекут...

а, ты грузишь его, главное чтоб на драйвере был; но опять ж зависит что и как читаешь

Похожие вопросы

Обсуждают сегодня

if (user?.choseType === 'oneDay') { await ctx.reply( 'Добро пожаловать в команду «Магнита»! Правда, на один день ☺️ ', ); await ctx.s...
Kokni
1
Читаю сейчас [нет, уже больше не читаю!] курсовую о Булгакове, написанную, похоже, с помощью ChatGPT. Это удивительный психоделический опыт. Текст в основном написан в стиле б...
✨ Uni [🌊 В отпуске]
1
Это фейк @cruppto_newbot?
Antskup
13
всем салют сегодня утро заметил что бот не может отправлять фотки по url. ручками в браузере ссылка норм открывает фотки. падает ошибка 'Bad Request: failed to send message ...
Vasya Ivanov
9
ребят, привет. за какое время бот полученную заявку на вступление в группу может принять \отклонить? Помню речь была про 5 минут, сейчас как?
Роман Ромашин :)
10
Доброго времени суток. Правильно ли я понимаю, что с введением новой платежной единицы stars, я просто могу оставить текущую платёжку от Юкассы, которая выполняется на сайте с...
Prokhor Chulkov
7
Добрый день! Не подскажете как к модели Категории Шопоголика добавить отношение Тейлора. Пробовал по документации, но не получается. Мб уже кто-то делал?
Николай Афанасенко
6
https://pastebin.com/BC4pjp4u кто-нибудь мне может объяснить почему это так работает и как работает правильно wizard и почему иногда в контекст появляются сообщения от бота, н...
Kokni
1
Добрый день! На Odoo 16.0 через 1-2 дня перестают работать кроны. В логах одна только ошибка на момент, когда сработал последний крон. Может кто-то уже с этим разбирался?
Denis Валенчиц
3
вопрос: кто как решает вопрос с динамической подгрузкой скриптов для отдельных страниц с включенным turbo router?
Sergei Toroptsev
25
Карта сайта