170 похожих чатов

Как правильно написать скрипт читающий файл, и по мере чтения

применяющий функцию для трансформации данных, по мере накопления пачки данных выгружающий ее в базу а память освобождать? (данных много)
Думаю про функциональщину, но как собирать чанк и делать все паралельно/асинхронно…

26 ответов

19 просмотров

Зачем делать асинхронно?

Там чтение и запись данных будет по времени на несколкько порядков дольше чем обработка.

λ- Автор вопроса
Ilya Zviagin
Зачем делать асинхронно?

Логично. Болячка с asyncio, мне он не нравится и вот пытаюсь всюду его примерить что бы “полюбить” 😄

λ
Логично. Болячка с asyncio, мне он не нравится и в...

а может стоит все таки разобраться где его стоит применять, а где нет, чем пихать во все отверстия?

λ- Автор вопроса

Звучит как два треда, буфер и лок

λ
Я и не пихаю, я его примеряю 😄

нет, это не так называется.

Может вообще генератор просто надо?

обычное построковое чтение не будет никак память забивать, да и если ты 10-100 строк будешь в 1 переменой хранить и потом "выгружать"

λ- Автор вопроса
Sho
обычное построковое чтение не будет никак память з...

Я гружу строку, строю из нее dict и потом все это делаю del, но память никак не хочет освобождаться 🙁

λ
Я гружу строку, строю из нее dict и потом все это ...

эм.... Копыл ты что ли? Как ты измеряешь потребление памяти? С чего ты взял что питон сразу отдает память системе?

Alex
эм.... Копыл ты что ли? Как ты измеряешь потреблен...

Между прочим Олег через несколько дней осознал и я прям рад за него

λ- Автор вопроса
Alex
эм.... Копыл ты что ли? Как ты измеряешь потреблен...

измеряю использованием свопа сверх обема оперативки 😄

Tishka17
Своп тут при чем?

по-моему он нас троллит.... или просто идиот.

λ- Автор вопроса
Tishka17
Своп тут при чем?

Ну ок а как измерять? Мне нужно что бы GC освободил память, ну или не алоцировал сверх размера оперативки пускай себе переиспользует сколько хочет

λ
Ну ок а как измерять? Мне нужно что бы GC освободи...

GC тут тоже ни при чем. тебе следует разобраться с тем как работает управление памятью в питоне, как питон память аллоцирует, что такое счетчик ссылок. это во-первых.

λ
измеряю использованием свопа сверх обема оперативк...

Вот что ты нам рассказываешь: Мне надо сверить картошку, я думаю о мультиварке или антипригарном покрытии. Но у меня не получается порезать её на куски, чтобы масло таяло. Я пробовал дуть на картошку, но масло не таяло.

λ
Ну ок а как измерять? Мне нужно что бы GC освободи...

Давай начнем с другой стороны. В чем проблема текущего кода?

λ- Автор вопроса
Alex
GC тут тоже ни при чем. тебе следует разобраться с...

А как в реалтайме глянуть рефкаунтер?

λ- Автор вопроса
Tishka17
В чем текущая проблема?

Коротко: Как сделать все быстро, читаемо, и с переиспользуемыми функциями?

λ
Коротко: Как сделать все быстро, читаемо, и с пере...

прекрасно. покажи как ты это делаешь сейчас.

λ
Коротко: Как сделать все быстро, читаемо, и с пере...

Для начала просто написать код. Убрать бессмысленные операторы типа del. Дальше понять, где функция делает несколько разных по смыслу вещей. Выделить их в отдельные функции. Дальше, посмотреть, где у тебя постоянно одни данные гоняются без изменений - сделать класс

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта