.conf файла или log4j.properties, где был бы засетаплен уровень логирования
spark.sparkContext.setLogLevel("WARN")
спасибо! сейчас середина-на половину получилась: желаемые принты есть, но и при этом инфо логи тоже остались: 22/02/10 23:40:43 INFO SparkContext: Running Spark version 3.0.1 22/02/10 23:40:43 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 22/02/10 23:40:44 INFO ResourceUtils: ============================================================== 22/02/10 23:40:44 INFO ResourceUtils: Resources for spark.driver:
Самое начало этой командой никак не убрать, это логи создания сессии, до того, как вызывается сетлоглевел
понял, спасибо большое!)
ты оч сильно помог 🙏 утро вечера мудренее, завтра буду колупаться на свежую голову. благо, хоть инфраструктура подготовлена для колупания)
Обсуждают сегодня