184 похожих чатов

Есть sql запрос миграции ("перелив" таблицы через преобразование в новую

таблицу):
взять данные из таблица А -> преобразование -> новые данные -> положить в таблицу Б.

Проблема: в таблице А много данных, опасаюсь что при выполнении sql запроса миграции выйду за пределы оперативной памяти, в итоге кажется ch поломается (или нет?).

В постгресе для этого я бы использовал for loop чтобы делать перелив "пачками по датам".

А как быть тут? Как гуглить?

5 ответов

12 просмотров
Стас-Донцов Автор вопроса

bump

Посмотрите настройку max_bytes_before_external_group_by - можно ограничить используемую под группировки память (при превышении лимита данные будут на диске группироваться).

Стас-Донцов Автор вопроса
Alexey Sokolov
Посмотрите настройку max_bytes_before_external_gro...

ок, спасибо, буду сейчас обязательно почитать, правильно понял что других аналогов близких к for loop не найдется?

Стас Донцов
ок, спасибо, буду сейчас обязательно почитать, пра...

Я таких способов (жуткие костыли на буферах и MV расчёт не берём) не знаю, но имхо проще всего сторонним скриптом сделать.

Стас-Донцов Автор вопроса
Alexey Sokolov
Я таких способов (жуткие костыли на буферах и MV р...

ну да, такая идея была - достаточно питона и какого-нибудь алембика (чтобы сделать миграцию через код, а не sql), но у нас не использется алембик и питон(( А если смотреть в сторону внутренних скриптов? Например для pg есть возможность написать "скрипт миграции с sql запросами и примесями питона" и это вызвать как "миграцию".

Похожие вопросы

Обсуждают сегодня

У меня это всегда вопрос вызывало.. Нафига писать код так, чтобы потом ошибки вылавливать?
Nik
44
Всем привет. Сейчас я изучаю erlang по книге Erlang and OTP in action. Дошел до главы где реализуется первый gen server на примере tcp rpc сервера. Меня очень сильно смутил ко...
Freezing Death
9
что за асемблер кста?
Shvabrikk Nya
19
Добрый день! Пробую отловить исключение EConvertError: function _TryTextToDouble(var DoubleVar: Extended; Text: String): Boolean; begin try DoubleVar := StrToFloat...
Kirill Filippenok
19
Подскажите... Есть ли название у способа разработки кода, в котором: сперва пишут минимальную рабочую структуру: Напр. ввод, обработка, вывод, контроль. Потом эту структуру д...
Budemposmotret
6
В дизассемблере вижу, что строки пихают в регистры через lea, почему так, а не через mov?
Oleg
8
всем привет. реально ли понять чем в процессе занята память? delphi/linux, процесс свой
Handatros
12
А где @Grinyaha уважаемый пропал?
Am Ambrion
14
Коллеги, а не могли бы вы подсказать, как происходит оптимизация кода при выполнении кода julia? (Точнее, как управлять уровнем оптимизации, аналогично LLVM/GCC). Потому что...
Илья Гаража
5
Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Карта сайта