базу. Есть группа таблиц, в которые заливается порядка 500 млн записей.
Использую COPY, но со временем вставка начинает "унывать" в плане скорости. Индексов во время вставки нет, только по полю Id проверяется уникальность.
Смотрю в сторону секционирования таблиц и подкручивания дефолтных настроек postgres.
Возможно есть best practices или советы в какую ещё сторону стоит посмотреть?
То есть вообще за 15 минут закончится... (Нет, но, думаю, и не за 10 часов, на самом деле). Как-то не выглядит перспективным это сильно оптимизировать (особенно если учесть, что там всё сложно).
Сейчас дефолтные буфферы увеличил, wal подкрутил. Стало заметно быстрее на больших таблицах заливаться. Порядка 60% прирост в скорости. Поэтому задумался над матчастью в плане конфигурации. Вчера в ночь запустил заливку, 50% залилось за 12 часов. Поэтому решил искать ещё пути оптимизации.
Обсуждают сегодня