170 похожих чатов

Как правильно написать скрипт читающий файл, и по мере чтения

применяющий функцию для трансформации данных, по мере накопления пачки данных выгружающий ее в базу а память освобождать? (данных много)
Думаю про функциональщину, но как собирать чанк и делать все паралельно/асинхронно…

26 ответов

7 просмотров

Зачем делать асинхронно?

Там чтение и запись данных будет по времени на несколкько порядков дольше чем обработка.

λ- Автор вопроса
Ilya Zviagin
Зачем делать асинхронно?

Логично. Болячка с asyncio, мне он не нравится и вот пытаюсь всюду его примерить что бы “полюбить” 😄

λ
Логично. Болячка с asyncio, мне он не нравится и в...

а может стоит все таки разобраться где его стоит применять, а где нет, чем пихать во все отверстия?

λ- Автор вопроса

Звучит как два треда, буфер и лок

λ
Я и не пихаю, я его примеряю 😄

нет, это не так называется.

Может вообще генератор просто надо?

обычное построковое чтение не будет никак память забивать, да и если ты 10-100 строк будешь в 1 переменой хранить и потом "выгружать"

λ- Автор вопроса
Sho
обычное построковое чтение не будет никак память з...

Я гружу строку, строю из нее dict и потом все это делаю del, но память никак не хочет освобождаться 🙁

λ
Я гружу строку, строю из нее dict и потом все это ...

эм.... Копыл ты что ли? Как ты измеряешь потребление памяти? С чего ты взял что питон сразу отдает память системе?

Alex
эм.... Копыл ты что ли? Как ты измеряешь потреблен...

Между прочим Олег через несколько дней осознал и я прям рад за него

λ- Автор вопроса
Alex
эм.... Копыл ты что ли? Как ты измеряешь потреблен...

измеряю использованием свопа сверх обема оперативки 😄

Tishka17
Своп тут при чем?

по-моему он нас троллит.... или просто идиот.

λ- Автор вопроса
Tishka17
Своп тут при чем?

Ну ок а как измерять? Мне нужно что бы GC освободил память, ну или не алоцировал сверх размера оперативки пускай себе переиспользует сколько хочет

λ
Ну ок а как измерять? Мне нужно что бы GC освободи...

GC тут тоже ни при чем. тебе следует разобраться с тем как работает управление памятью в питоне, как питон память аллоцирует, что такое счетчик ссылок. это во-первых.

λ
измеряю использованием свопа сверх обема оперативк...

Вот что ты нам рассказываешь: Мне надо сверить картошку, я думаю о мультиварке или антипригарном покрытии. Но у меня не получается порезать её на куски, чтобы масло таяло. Я пробовал дуть на картошку, но масло не таяло.

λ
Ну ок а как измерять? Мне нужно что бы GC освободи...

Давай начнем с другой стороны. В чем проблема текущего кода?

λ- Автор вопроса
Alex
GC тут тоже ни при чем. тебе следует разобраться с...

А как в реалтайме глянуть рефкаунтер?

λ- Автор вопроса
Tishka17
В чем текущая проблема?

Коротко: Как сделать все быстро, читаемо, и с переиспользуемыми функциями?

λ
Коротко: Как сделать все быстро, читаемо, и с пере...

прекрасно. покажи как ты это делаешь сейчас.

λ
Коротко: Как сделать все быстро, читаемо, и с пере...

Для начала просто написать код. Убрать бессмысленные операторы типа del. Дальше понять, где функция делает несколько разных по смыслу вещей. Выделить их в отдельные функции. Дальше, посмотреть, где у тебя постоянно одни данные гоняются без изменений - сделать класс

Похожие вопросы

Обсуждают сегодня

А как старый хаскел с новым стыковать ? потому как тут работает https://play.haskell.org/saved/C3xpMzcd, а вот тут https://stepik.org/lesson/7602/step/9?unit=1473 нет ошибка C...
Fedor
131
Ребят, что лучше для реверса: гидра или ида?
En Vind Av Sorg
23
Вопрос я правильно понимаю что в коде newtype ArrowMap k v = ArrowMap { getArrowMap :: k -> Maybe v } getArrowMap есть функция типа k -> Maybe v, если да, то не понимаю задач...
Fedor
64
Делаю велосипед логгер. К сообщению хочу прикрутить некоторую информацию, типа, кем отправлено, какой уровень, и всякое такое. И тут подумалось мне, почему бы не хранить весь...
Serjone
24
Как Вы считаете нормально ли в двадцатых годах 21 века в ВУЗах Российской Федерации обучать студентов работе с TASM? Не слишком ли это "архаично"? (Если оффтоп или флейм для э...
Spiker01
52
а не подскажете вот это скрин из какой IDE ?
Iluha Companets
14
Комрады, хотел уточнить. Проперть в OnDestroy юнита-хозяина по-прежнему доступна? И еще уточнение: finalization юнита наступает раньше или позже OnDestroy?
Ed Doc
48
Продолжая диалог про свифт в проде – сейчас возник вопрос в активном наборе бекендеров. В основном в нашей компании мы фанаты Java Spring и полностью ей довольны. Однако найм ...
Guseyn
27
Народ всем привет Подскажите, как включить самописные dll библиотеки в итоговую сборку Сейчас при запуске dev сервера локально формируется папка build, из которой запускается...
Андрей
4
Комрады, подскажите, в дельфях есть компоненты а-ля TDirectorySelect?
Ed Doc
15
Карта сайта