172 похожих чатов

Если кому интересно. Я тут как раз недавно проводил эксперименты

о том, стоит ли делать COPY в несколько потоков.
К тому же хотелось понять насколько соответствует истине общераспространённое убеждение, что в таблицу без индексов Постгрес вставляет примерно с линейной скоростью записи на диск.

Если у вас обычный HDD, то делать вставку в несколько потоков категорически противопоказано. HDD очень не любит случайных чтений/записей - для этого приходится перемещать головку, а это медленно (10мсек).
Так что параллелизм имеет смысл только на крутом RAID девайсе или SSD/NVME. Я тестировал на своё ноуте с достаточно шустрой NVME. fsync-и не выключал. Исходный CSV файл был порядка 2Gb (он полностью прокэшировался), индексов не было. Вот что я получил:
1. Средняя скоросnь вставки ~100Mb/sec. iotop показывал максимум 250Mb/sec
2. При параллельном COPY (4 потока - я использовал патч с коммитфеста) скорость возрастает до 115Mb/sec
3. При записи в tmpfs скорость однопоточного COPY возрастает до 200Mb/sec, 4 потока - 350Mb/src
4. Замена CSV формата на binary формат практически ничего не даёт

Какой из этого можно сделать вывод? Да, COPY упирается в скорость диска. Хотя результат получается сильно медленнее, чем можно было бы ожидать исходя из ТТХ устройства. Возможно это из-за двойной записи (в WAL и в базу).
При этом даже на NVME параллелизм заметного прироста скорости не даёт.

2 ответов

11 просмотров

Спасибо, интересно. Ещё бы посмотреть, на разницу однопоточного COPY с io_uring

Да, из-за записи WAL

Похожие вопросы

Обсуждают сегодня

Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Мдя, прикол, боевая сборка запускается (именно под отладчиком) после F9 примерно полторы минуты (97 секунд если быть точным). Начал копать - проблема детектится сразу - зависа...
Александр (Rouse_) Багель
38
Всем привет! Подскажи, пожалуйста, как передать в TComboBox сразу значение и id записи. На Delphi я делал так: ComboBox1.Items.AddObject('Какое-то значение', Pointer(id запис...
Евгений
10
я так понимаю, я так подозреваю, что создание такого плагина для человека, кто умеет писать плагины для делфи потребует минут 5-10 времени. но это мое подозрение. хотелось бы ...
Kraszx
7
Товарищи, кто работа с iphelper? Или может я в самой логике ошибки фигачу, не пойму.... var ifTable : PMIB_IFTABLE; size, corSize: DWORD; Buffer ...
Warfarellen
4
Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
50
Коллеги, добрый вечер. Создаю коллекцию от TFPGMap, ключ - перечисление, значение - целое. Нужно отсортировать коллекцию по значению. Как это можно сделать?
Kirill Filippenok
11
Привет, такой вопросик появился кажется ли вам что Rust слишком сложный/строгий для высокоуровневого программирования и слишком "безопасный"/строгий для низкоуровневого?
Крокант
10
Скажи а ты когда этот канал создавал ты уже дельфи не любил, или это со временем пришло?
Роман Лях (rgreat)
18
Всем привет! Использую кастомное модальное диалоговое окошко, все по классике - mrOK, mrCancel как ModalResult. Однако есть нюанс - в главной форме есть универсальный обработч...
Олег Гранишевский
20
Карта сайта