184 похожих чатов

Друзья, может кто натолкнет на мысль правильную. Как сджойнить нормально

две таблицы, если одна из них имеет млрд записей?

10 ответов

6 просмотров

а вторая сколько? если меньше десяти миллионов и памяти достаточно то загоните ее в словарь или в engine=Join() таблицу dictGet / joinGet вместо join

Slach [altinity]
а вторая сколько? если меньше десяти миллионов и ...

Привет. У меня подобная проблема. 2 таблицы по 700 млн. записей. Одна - очень широкая (1000+ колонок), вторая - всего 4

Ilya Fiks
Привет. У меня подобная проблема. 2 таблицы по 700...

ну вторую... загоняйте по кускам в engine=Join INSERT INTO join_table SELECT t1 WHERE ... и потом SELECT joinGet() FROM t1 WHERE ... напрямую вы все равно замаетесь это джойнить... ну или StarRocks вместо clickhouse берите =) пусть они объясняют что вообще JOIN на таких объемах, означает epic fail и что у вас с архитектурой такое себе...

Slach [altinity]
ну вторую... загоняйте по кускам в engine=Join I...

Да, напрямую, даже с разбивкой на куски заманался. Словарь не сработал

Ilya Fiks
Да, напрямую, даже с разбивкой на куски заманался....

ну короче вам надо добиться чтобы одна таблица сканилась... а вторая в памяти была... то есть и t1 вам по частям надо выбирать.. и t2 отдельно по частям надо загонять в память...

Slach [altinity]
ну вторую... загоняйте по кускам в engine=Join I...

Не сработало (((. У меня ключ состоит из 2 полей. А SELECT t1 ALL INNER JOIN t2_join_table USING k1, k2 Не поддерживается (((( https://github.com/ClickHouse/ClickHouse/issues/29950

Ilya Fiks
Не сработало (((. У меня ключ состоит из 2 полей. ...

https://clickhouse.com/docs/en/sql-reference/functions/other-functions#joinget

Slach [altinity]
https://clickhouse.com/docs/en/sql-reference/funct...

Да-да, я знаю эту функцию, спасибо. Хотел более "нативно"

Похожие вопросы

Обсуждают сегодня

Сообщение* в закодированном виде. То есть, просто сделать sendMessage?text=Привет бла-бла! не получится, надо в HEX переводить, и добавлять процент, типа такого: sendMessage?t...
КТ315
21
всем трям! Кто-нибудь работал со связкой werf + harbor + trivy ? Во время сборки образа выходит ошибка "PROJECTPOLICYVIOLATION: current image with "Pending" status of vulnerab...
Авессалом
11
А случайно нет ли в паскале штатной возможности передать указатель и количество туда где array of в качестве аргумента?
zamtmn
25
Anyone here suffers from unexplained aural migraines, who would be up for talking for a bit? Doesn't *have* to be aural, but I am not asking about headaches, I mean actual mi...
Martin Rys
58
Только такой if ($modx->event->name == 'OnBeforeCartItemAdding') { $meta = $params['item']['meta']; $lang = $modx->getConfig('_lang'); // проверяем, задана ли опция i...
Multi Web
1
Всем привет. Испытываю проблемы в работе БД, а именно огромного роста логов, такого характера: 024-05-16 18:39:07 +05 sentry sentry [unknown] 1050169 7-1 app-sentry01.corp.ru>...
Alexey
2
Ну раз я пока тут, задам пару глупых вопросов. Зачем писать на ассемблере если компилятор довольно умный, а ассемблер много времени занимает? В каких прикладных задачах сейчас...
Максим Рябцев
20
Здравствуйте, а хорошая ли идея смешивать нейронки? То есть, у нейронки задача щелкнуть 1 раз, но есть датасет с одним типом картинок и с другим. Хотелось бы сделать универсал...
Никита
5
Хм. А телеграм апи работают через HTTP?
The Bird of Hermes
14
Если подытожить: По мнению Розыча и Хемуля и др. - предпочтительно по возможности объявлять в секции имплементации потому-что: 1) Выше скорость компиляции 2) Не замусоривается...
notme
7
Карта сайта