172 похожих чатов

16Гб база, одна жирная таблица с логами 14Гб. pgdump уже

занимает пол часа . Как ускорить бэкап. Какое архитектурное изменение можно сделать, может вынести жирную таблицу в отдельную базу ну или nosql какой нить заюзать?

16 ответов

37 просмотров

Я б логи таблицы сохранил в файле csv на сервере а саму таблицю почистил. И может через через file_fdw или copy

Мы для логов используем партицирование. Первый вариант простотпартиции. Каждый месяц дамп партиции и дроп. Второй вариант вторая нода настроена логическая репликация (у нас реплицируются только insert) это наш архив. На первой ноде так же каждый месяц дроп партиции

Перейти на pg_basebackup.

Ну, то есть это самое просто решэние. Не то, чтобы не было других, но...

Andrei-St Автор вопроса
Aleksey Lex-sey
Мы для логов используем партицирование. Первый вар...

партиции есть про дамп партиции и дроп не можно подробнее? Мы пока ни разу не чистили эта таблицу

Andrei-St Автор вопроса
Andrei-St Автор вопроса
Ilya Anfimov
Перейти на pg_basebackup.

так как кластер уже сварен яндексом , доступа к файлам нету, но скорее всего она не подойдет, как я понимаю ей нужен доступ к файлам базы, у нас только сетевой конект

Andrei St
postgres готовый скаверный от yandex

А, то есть копии, полученные через что-то вроде pg_basebackup они не выдают? Тогда да, тогда это не вариант.

Andrei-St Автор вопроса
Ilya Anfimov
А, то есть копии, полученные через что-то вроде pg...

ну вообще у них есть свой инструмент бэкапа но я по старинке юзаю pgdump, минус ихнего инструмента в том что если форс мажор то нужно рядом новый кластер поднимать и в него разворачивать а это деньги типа

Andrei St
postgres готовый скаверный от yandex

Я часто пересматриваю их доклад о миграции с оракла...

Andrei St
ну вообще у них есть свой инструмент бэкапа но я п...

любое решение для физического бэкапа потребует поднятие нового кластера

Ну да. Тогда можно партицыонировать. При бэкапе запрашывать только свежую партицыю, остальные -- верифицыровать через что-то вроде подсчёта сумм.

Andrei-St Автор вопроса
Aleksey Lex-sey
любое решение для физического бэкапа потребует под...

ну почему, рядом быстро развернули в новую базу с дампа базу, переключили приложение на новую базу

Andrei St
ну вообще у них есть свой инструмент бэкапа но я п...

Так в любом случае, если основной навернулся -- то надо ещё один поднимать... И да, если свой инструмент выдаёт файлы базы и WAL -- то можно и это использовать. Заодно потренируетесь у себя поднимать копию яндэксовского сетапа.

Andrei-St Автор вопроса
Ilya Anfimov
Так в любом случае, если основной навернулся -- то...

по времени примерно тоже самое что и и с дапка через pg_restore

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта