из постгреса в clickhouse?
Данные в пг нужно сформировать с несколькими JOIN'ами. Около миллиарда строк
Есть словари, а в более поздних версиях движок PostgreSQL
условно говоря я могу подключить пг к кх и сделать INSERT INTO ... SELECT ...?
почитайте документацию пжл https://clickhouse.com/docs/en/engines/table-engines/integrations/postgresql/
Не совсем понимаю, если мне нужно на стороне pg сформировать датасет c кучей джоинов то мне нужно каждую таблицу маппить на кликхаус?
А зачем вам в таком случае вообще кликхаус?
Нужно единожды перенести все события из пг в ch
pg вероятно сделает эти джойны быстрее (у вас есть такая возможность). Соберите там все в один view, и вот к нему уже и обращайтесь из КХ. Только подумайте заранее о восстановлении после сбоя - джойн на миллиард записей скорее всего будет работать долго и может упасть. Было бы разумно иметь возможность продолжить перекачивание от какой-то позиции (скажем даты) которая уже перекачалась. Однако если операция разовая, то лучше написать какой-то ETL скрипт на привычном вам ЯП.
Обсуждают сегодня