215 похожих чатов

Привет, подскажите в таблице postgresql есть 7195903 строк, если я

выбираю загрузку всех строк query = """select * from table;""" - тогда очень долго обрабатывается и ноутбук виснет, если query = """select * from table LIMIT 1000;""" выбирает 1000 строк, Как мне можно прописать df = pd.read_sql(query, engine) чтобы работать со всеми строками?

4 ответов

5 просмотров

ваш вопрос - как обработать 7195903 строк за время, которое обрабатываются 1000 строк?

Katerina-Ost Автор вопроса

Привет, я все также с этой проблемой. Если беру 500 000 строк, читает ну 1 мин, 1млн за 3:38, а вот 7млн колаб отказался. Что делать, разбить на chanksize по 1 млн?

Katerina Ost
screenshot Привет, я все также с этой проблемой. Если беру 50...

Это происходит потому что вам не хватает памяти. 1 вариант - юзать чанки, процессить что нужно и потом сохранять в отдельный файл, 2 - юзать dusk или что-то подобное, работает быстрее , 3 - при загрузке выбросить ненужные колонки,а у нужных поменять на int/float, там по умолчанию тип колонки object а он ждет уйму памяти.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта