52 похожих чатов

Битрикс для разработчиков Битрикс для разработчиков
Чат экстремального погром... Чат экстремального погром...
Qt Qt
symfony symfony
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
Боты на Telegraf Боты на Telegraf
Data Science Chat Data Science Chat
Android Architecture Android Architecture
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
DevsHelper DevsHelper
1C 1C
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
freebsd_ru freebsd_ru
Atlassian Community - Rus... Atlassian Community - Rus...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
ru_gitlab ru_gitlab
OctoberCMS OctoberCMS
Godot Engine (Russian) Godot Engine (Russian)
MySQL MySQL
Yii Framework 2 Yii Framework 2
Data Engineers Data Engineers
Чат Tableau Чат Tableau
Cinema 4D Cinema 4D
Software Design/Architect... Software Design/Architect...
Evolution CMS Evolution CMS
Odoo talks & fun Odoo talks & fun
pro.buildsystems pro.buildsystems
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
QA juniors QA juniors
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
ru_hashicorp ru_hashicorp
Grafana Loki Grafana Loki
VictoriaMetrics_ru VictoriaMetrics_ru
Google Cloud Platform_ru Google Cloud Platform_ru
.NET Group .NET Group
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
Netbeans [RU] Netbeans [RU]
Data Engineers Data Engineers
Дмитрий-

Есть вопрос, как ограничить количество тасков на экзекутор ? Есть

30 экзекуторов, по 8 кор. Во всех запрсах это хорошо, но в одном месте есть 30 партиций и нужно чтобы каждая партиция/таска обрабатывалась своим экзекутром, сейчас на экзекутор наваливаеся множество тасок и ему не хватает памяти, хотя глобальных ресурсов валом. Spark.task.cpu  в 3 спарке нельзя поменять на лету, к сожалению ...

#hadoop #russian #software
0

11 ответов

13 просмотров
Евгений-Глотов

Разве что поиграться с колонкой репартицирования, поджойнив на специальную табличку со значениями, хэш которых строго равен конкретным числам

0
8 месяцев назад
Дмитрий- Автор вопроса
Евгений Глотов
Разве что поиграться с колонкой репартицирования, ...

Написан репартишен. Но таски то по партициям, а распределчется по корам

0
8 месяцев назад
Евгений-Глотов
Дмитрий
Написан репартишен. Но таски то по партициям, а ра...

Репартишен надо написать так, чтоб хэш от ключа партицирования был ровно 0, 8, 16, 24 и т д

0
8 месяцев назад
Евгений-Глотов
Дмитрий
А смысл ?

Чтоб данные попали в соответствующие таск айди

0
8 месяцев назад
Евгений-Глотов
Дмитрий
Ну они так попадают

Нет, они попадают не так, как тебе надо

0
8 месяцев назад
Сиплый-

1. Тебе точно нужно 3 там? 2. Я б вместо черной магии всякой памятью бы закидал. Сколько всего памяти сейчас на этой жобе? 30гб? 300? С 30 до 90 сделать ок. Если приходится крутить до 1ТБ уже имеет смысл магия, да

0
8 месяцев назад
Дмитрий- Автор вопроса
Сиплый
1. Тебе точно нужно 3 там? 2. Я б вместо черной ма...

Других вариантов нет.

0
8 месяцев назад
KrivdaTheTriewe-

Ну вообще ты можешь свой партишонер написать или выглядит так, что тебе просто сделать репартишон 60 чтобы влезло в память

0
8 месяцев назад

Похожие вопросы

Data Engineers Data Engineers / Dushman
Подписаться

Подскажите , а звезду кх вывезет?

#hadoop #russian #software
08.10.2023
0
46 ответов
Data Engineers Data Engineers / Alexey Evdokimov
Подписаться

Я обещал запилить FAQ по Data Cooker ETL. Запиливаю. Q. Что это такое? A. Специализированный инструмент для а) быстрого создания ETL процессов и б) эффективного по стоимост...

#hadoop #russian #software
21.09.2023
0
3 ответов
Data Engineers Data Engineers / Alexey Evdokimov
Подписаться

Q. Ну так в чём проблема хранить JSON в поле? Схему задал, и вперёд. A. Так в датакукере схему вообще задавать не нужно, он изначально schema-less. Если нужно обратиться к ат...

#hadoop #russian #software
21.09.2023
0
5 ответов
Data Engineers Data Engineers / Dushman
Подписаться

Салют ! У двух шардов в кх общий интерфейс при подключении на отдельном сервере должен быть?

#hadoop #russian #software
05.05.2023
0
49 ответов
Data Engineers Data Engineers / Pavel Tarasov
Подписаться

Всем привет. Я тут делаю первый раз в жизни DWH (кажется) и к сожалению я (с on hands опытом только в PG и пайтоне) самый опытный на проекте, так что сам придумываю дизайн. Мо...

#hadoop #russian #software
31.07.2023
0
24 ответов
Data Engineers Data Engineers / Annette
Подписаться

Всем добрый день! Подскажите, пожалуйста, никто не работал с dbt core? А также связкой dbt с hdfs? Нужна помощь с подключением dbt к hdfs для чтения файлов

#hadoop #russian #software
31.10.2023
0
22 ответов
Data Engineers Data Engineers / Anton Bukreev
Подписаться

Всем привет. Есть вопрос по Debezium. Он крутится в кубере, поды падают в крашлуп совершенно случайно и не системно на разных источниках данных. Есть корреляция с нагрузкой на...

#hadoop #russian #software
12.10.2023
0
1 ответов
Data Engineers Data Engineers / Dushman
Подписаться

Чтобы разрабатывать на кафке баша хватит или джава нужна?

#hadoop #russian #software
12.09.2023
0
27 ответов
Data Engineers Data Engineers / Иван
Подписаться

Предложили из бекендера, стек (java/groovy) перейти в de. Разработка etl java приложений, стек (java, nifi, airflow, hadoop). Самому интересно попробовать новые технологии, в...

#hadoop #russian #software
02.10.2023
0
23 ответов
Data Engineers Data Engineers / Mark
Подписаться

Приветствую. Подскажите пожалуйста кто работал с JSON в Spark. Есть N табличек (parquet), нужно по определенной логике собрать их в один большой JSON, пример: { "master_id":...

#hadoop #russian #software
12.11.2023
0
8 ответов
Смотреть еще
Data Engineers Data Engineers
Подписаться
Вопросов 1585
Ответов 5598
Участников 4851
Telegram @hadoopusers

Обсуждают сегодня

Добрый день, не подскажите, если в OC-V3 поменять страндартную директорию /storage/ на /storage2/ - не будет сильно много проблем ?
Max Dubovsky
32
'frakturBold' => ['𝖆', '𝖇', '𝖈', '𝖉', '𝖊', '𝖋', '𝖌', '𝖍', '𝖎', '𝖏', '𝖐', '𝖑', '𝖒', '𝖓', '𝖔', '𝖕', '𝖖', '𝖗', '𝖘', '𝖙', '𝖚', '𝖛', '𝖜', '𝖝', '𝖞', '𝖟', '𝕬', '𝕭', '𝕮', '𝕯'...
Roma
4
А сколько часов мак держит зарядку в рабочем режиме? Например мой Redmi Mac (просто наклейка от айфона осталась, налепил) по началу держал часов 5 с парой открытых штормов и ...
Ross
8
Каким то образом можно определить ширину экрана пользователя перед загрузкой partial-а? Надо рассчитать ширину кадров слайдера для ресайза картинок для container-fluid.
Point 111
22
Ребят, а вот такой вопрос: если я владелец бота анонимного чата, в котором, например, имеются подписки, используя какую-нибудь ЮКассу (или тому подобное, в общем с налогами, в...
Eugene Неелов
8
а давно такие жирные буквы в админке?
Миша
4
Гнева и тупости пост. Как блять можно работать с маркетологами? Их в детстве всех родители случайно цепляли об дверные откосы? Поступила таска, на сайте "лишний счетчик Google...
Igor
4
а у тг (бот) апи вообще есть статусная страница, кстати?
e\\/gen
5
Вообще сейчас эти все провайдеры облаков оборзели. Если тебе нужно 4 ядра и 4 гб., хер где такую конфигурацию найдешь. Суют тебе сразу либо 8гб. либоа сразу 16 гб., они мне на...
Igor
4
Всем привет. А никто не в курсе у бота может быть заблокированна возможность принимать звезды? На одном боте вызываю sendInvoice с нужными параметрами все ок, на втором дела...
John Doe
2
Карта сайта