sparkContext.parallelize(args), которые я хочу замапить в функции, чтобы она соотвественно стала джобой, но помимо этих данных, которые я распараллелил, я хочу к каждому партишону добавить дополнительные одни и те же данные, с которыми работает func в которую я маплю все. Как это лучше сделать?
Тебе случаем не broadcast() нужен?
правильно ли я понимаю, что все объекты, которые я сделаю через broadcast будут доступны в каждой джобе спарка?
Обсуждают сегодня