172 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Ассемблер Ассемблер
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
DevsHelper DevsHelper
Big Data Science :: AI / ... Big Data Science :: AI / ...
Delphi & Lazarus Delphi & Lazarus
SwiftBook SwiftBook
Solidity Development Solidity Development
Evolution CMS официальное... Evolution CMS официальное...
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
Dart / Flutter Dart / Flutter
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
pro.Asm pro.Asm
IDE и редакторы — русског... IDE и редакторы — русског...
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Lame C Lame C
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
dlang.ru dlang.ru
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
Delphi Community Delphi Community
pro.vim pro.vim
Server Side Swift Develop... Server Side Swift Develop...
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Modern::Perl Modern::Perl
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
ru.nim.talks ru.nim.talks
DevOps DevOps
Odoo talks & fun Odoo talks & fun
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
werf (чат) werf (чат)
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Haskell Start Haskell Start
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
ErlangRus ErlangRus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
Electron.js Electron.js
phpclub.ru phpclub.ru
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
pro.osdev - os developmen... pro.osdev - os developmen...
MySQL MySQL
Это RabbitMQ Это RabbitMQ
Lame C++ Lame C++
QA juniors QA juniors
GameDev for Web GameDev for Web
Go Get A Job Go Get A Job
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Tilda Developers Tilda Developers
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
FreePascal & Lazarus FreePascal & Lazarus
Язык программирования Jul... Язык программирования Jul...
WordPress – русскоговорящ... WordPress – русскоговорящ...
Django Django
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
WebAssembly — русскоговор... WebAssembly — русскоговор...
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
macOS Developers — русско... macOS Developers — русско...
systemd systemd
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
pgsql – PostgreSQL pgsql – PostgreSQL
Sasha-M

Возможно ли в PG сделать COPY FROM итеративно, по кускам

большую таблицу лить в STDOUT? (ограничен в памяти, целиком лить не вариант, SELECT * FROM с итеративным курсором хотелось бы ускорить)

#backend #devops #pgsql #programming #russian
0

17 ответов

22 просмотра
Ilya-Anfimov

Запретов нет (о чём прямо написано в документацыи на COPY FROM, кстати).

0
27.10.2021
Sasha-M Автор вопроса
Ilya Anfimov
Запретов нет (о чём прямо написано в документацыи ...

А каким образом FETCH FORWARD для COPY будет работать?

0
27.10.2021
Ilya-Anfimov
Sasha M
А каким образом FETCH FORWARD для COPY будет работ...

Я вообще не понял вопроса. FETCH FORWARD -- это какая-то хрень для поэтапной выгрузки запросов из постгреса в продвинутые приложэния, при чём тут COPY?

0
27.10.2021
Andrey-L

через пайп лейте сразу куда следует

0
27.10.2021
Sasha-M Автор вопроса
Andrey L
через пайп лейте сразу куда следует

Так и делаю, но если целиком COPY FROM делать, то памяти не хватает для таблицы (100М строк), поэтому пытаюсь выяснить, как написать COPY FROM, чтобы делал FETCH по 10М к примеру, и лил покусочно через пайп куда надо

0
27.10.2021
Andrey-L
Sasha M
Так и делаю, но если целиком COPY FROM делать, то ...

а почему, если лить пачками, то память не заканчивается?

0
27.10.2021
Sasha-M Автор вопроса
Andrey L
а почему, если лить пачками, то память не заканчив...

Залитая пачка в 10М удаляется из памяти после заливки, освобождается место для следующей

0
27.10.2021
Ilya-Anfimov
Sasha M
Так и делаю, но если целиком COPY FROM делать, то ...

Кому нехватает памяти? Postgres вообще большэ work_mem для этого явно не можэт использовать. Я бы скорее предположыл, что вообще копейки какие-нибудь.

0
27.10.2021
Sasha-M Автор вопроса
Andrey L
вы куда льете?

В S3

0
27.10.2021
Ilya-Anfimov
Sasha M
В S3

Впервые слышу, чтобы postgres мог хранить таблицы в S3.

0
27.10.2021
Andrey-L
Sasha M
В S3

Мне стыдно, но я не копенгаген по s3. Память что потребляет? copy оперирует потоком

0
27.10.2021
Sasha-M Автор вопроса
Ilya Anfimov
Впервые слышу, чтобы postgres мог хранить таблицы ...

Так я просто аутпут COPY FROM из STDOUT лью в S3

0
27.10.2021
Ilya-Anfimov
Sasha M
Так я просто аутпут COPY FROM из STDOUT лью в S3

У COPY FROM нет аутпута, только инпут.

0
27.10.2021
Sasha-M Автор вопроса
Ilya Anfimov
У COPY FROM нет аутпута, только инпут.

Сорян, оговорился и видимо запутал: COPY * TO STDOUT WITH CSV HEADER > S3

0
27.10.2021
Ilya-Anfimov
Sasha M
Сорян, оговорился и видимо запутал: COPY * TO ST...

А, так это совсем другое дело. Впрочем, постгрес тут тожэ вряд ли использует большые буфера. И в любом случае они меньшэ work_mem. Там просто итэративное выполнение plan node, с выдачей результата ну буквально по одному пока буфер не забьётся. Так что память переполняется опять, видимо, у вашэй программы. Но чтобы обойти это в copy to можно использовать примерно любой запрос. Не знаю, не уверен насчёт FETCH FROM cursor, но уж поделить на логичного размера таблицу запросами -- вполне реально.

0
27.10.2021
Sasha-M Автор вопроса
Ilya Anfimov
А, так это совсем другое дело. Впрочем, постгрес ...

Принял! Благодарю за разъяснения👍👍👍

0
27.10.2021

Похожие вопросы

pgsql – PostgreSQL pgsql – PostgreSQL / Не люблю общаться.
Подписаться

почему в постгресе нету переменных типа DECLARE @var INTEGER; SET @var = 5; ... все что я нагуглил так это юзать WITH, но оно же иммутабельное после выборки так сказать. А...

#backend #devops #pgsql #programming #russian
22.10.2023
0
60 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Talifa Kumi
Подписаться

коллеги, хелп. postgresql 11 есть большая партицированная таблица. добавили партицию, создали индекс ONLY на родительскую таблицу. далее создали индекс на партицию и прицепи...

#backend #devops #pgsql #programming #russian
11.11.2023
0
28 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / 8921 *** ** **
Подписаться

Добрый день. Postgres меееедленно но верно отжирает память. PostgreSQL 15.4 (Ubuntu 15.4-2.pgdg22.04+1) Количество коннектов не меняется, автовакуум не запускается. Потреб...

#backend #devops #pgsql #programming #russian
26.10.2023
0
53 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Артем Сафиюлин
Подписаться

Всем привет! Помогите разобраться плз. Есть таблица: \d+ stat.ips Table "stat.ips" Column | Type...

#backend #devops #pgsql #programming #russian
13.11.2023
0
20 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Дмитрий Копытов
Подписаться

Существует uuid v7, выше упоминался. Он тоже упорядоченный, что мешает использовать его?

#backend #devops #pgsql #programming #russian
25.09.2023
0
55 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Sherzodbek Kirgizbaev
Подписаться

Добрый день друзья! Тут вопрос связанный с autovacuum и wraparound, база у нас достаточно большая, сейчас возникла проблема с заполнением вакума, если его увеличить с дефолтны...

#backend #devops #pgsql #programming #russian
04.10.2023
0
51 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Morruth🏴‍☠️
Подписаться

ещё раз — у вас постгрес вообще запущен?

#backend #devops #pgsql #programming #russian
14.09.2023
0
55 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Алексей Алексеевич
Подписаться

Всем привет! Подскажите пожалуйста кто знает по восстановлению PointInTime: бэкап снимается целиком виртуальной машины, wal файлы копируются через archive_command. При этом не...

#backend #devops #pgsql #programming #russian
01.08.2023
0
55 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / tetro_gramatone
Подписаться

Всем привет. Как называется утилита для бэкапов?

#backend #devops #pgsql #programming #russian
14.06.2023
0
63 ответов
pgsql – PostgreSQL pgsql – PostgreSQL / Victor
Подписаться

Здравствуйте. Есть БД. версия 9.6. Круглосуточно мониторинг показывает нагрузку на дисковую систему 1 Гигабайт в секунду. Постоянно что-то там читает. Причем график ровный. ...

#backend #devops #pgsql #programming #russian
27.07.2023
0
52 ответов
Смотреть еще
pgsql – PostgreSQL pgsql – PostgreSQL
Подписаться
Вопросов 37679
Ответов 82300
Участников 11475
Telegram @pgsql

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта