Как ускорить такие запросы на агрегацию в спарке? Выборка из одной

небольшой таблицы допустим на 1 гиг
Но в этой таблице 300 полей и мне нужно посчитать агрегации по 11 условиям для каждого поля

В итоге получается 300*11
= 3300 полей в селекте )))


Для примера привёл 4))

Как не дать спарку сдохнуть и все посчитать

10 ответов

10 просмотров

Что такое агрегации по 11 условиям? Case when then?

Dmitriy- Автор вопроса
Dmitriy
Вроде этого

Так можно же сделать длинную таблицу вместо широкой

А что именно дохнет? Для 3к полей сделай жырный драйвер на 5ГБ например

Dmitriy- Автор вопроса
Dmitriy
Да тупо пока не отрабатывает

Убери шафол портишонс тоже

Dmitriy- Автор вопроса
Сиплый
Убери шафол портишонс тоже

Я его до 10 уменьшил Я размер изначальной таблицы не знаю От 1гб до пару тб может быть

Dmitriy- Автор вопроса

Похожие вопросы

Обсуждают сегодня

Подскажите, а есть vault lite или ченить такое?) А то нужен вольт для похода в вольт, но весит он ~500 мб) как-то многовато для парочки запросов ))
Alexandr Orloff
17
Всем привет, есть небольшая проблема Есть такой скрипт document.addEventListener('DOMContentLoaded', function () { const sliderTabs = document.querySelectorAll('.s...
A da
8
@go1337 @dblackCat Привет. Все ещё дрочусь с fastpanel. Добавил второй домен который должен смотреть в рут того же сайта, но так как это просто домен, а не сайт, я не могу ему...
Ross 🦴
9
До речі, в ево нема можливості чи якого розширення щоб з адмінки з телефона зайти і терміново щось в верстці поправити?
Женя
7
кто-нибудь пользуется тайм-трекерами во время работы? так много разных нагуглил, может есть что-то популярное
Lencore
8
Пацаны. Я разрабатываю софт для инвайтинга на телетон, и столкнулся с такой проблемой, в один из чатов не могу приглашать никого, не дает добавлять, в то же время через официа...
Kernel Panic
11
Скажите, а кому нужен Currency как отдельный плагин вместо полноценного ecommerce в OctoberCMS? Кто-то использует его уже или планирует в будущем? Может я что-то не понимаю?
Igor
13
Розмовами про Рево мені нагадали часи, коли шаблони правилися прямо в адмінці. Хто в курсі, чому відійшли від цієї практики, так блейд не працює? Доволі зручно ж було (інколи)
Женя
3
Всем добрый вечер, Рад оказаться в кругу единомышленников. Начинаю погружаться в мир .net веба. Зовут Ерасыл 🖖 У меня назрел вопрос: Какой процент проектов, прошедшие через в...
Ерасыл
6
Чому? Да тому що без GiT не уявляю нормального проекта а коли код в базі то то так собі
Dmytro Lukianenko
3
Карта сайта