применяющий функцию для трансформации данных, по мере накопления пачки данных выгружающий ее в базу а память освобождать? (данных много)
Думаю про функциональщину, но как собирать чанк и делать все паралельно/асинхронно…
Зачем делать асинхронно?
Там чтение и запись данных будет по времени на несколкько порядков дольше чем обработка.
Логично. Болячка с asyncio, мне он не нравится и вот пытаюсь всюду его примерить что бы “полюбить” 😄
а может стоит все таки разобраться где его стоит применять, а где нет, чем пихать во все отверстия?
Я и не пихаю, я его примеряю 😄
Звучит как два треда, буфер и лок
нет, это не так называется.
Может вообще генератор просто надо?
обычное построковое чтение не будет никак память забивать, да и если ты 10-100 строк будешь в 1 переменой хранить и потом "выгружать"
Я гружу строку, строю из нее dict и потом все это делаю del, но память никак не хочет освобождаться 🙁
эм.... Копыл ты что ли? Как ты измеряешь потребление памяти? С чего ты взял что питон сразу отдает память системе?
Между прочим Олег через несколько дней осознал и я прям рад за него
измеряю использованием свопа сверх обема оперативки 😄
Своп тут при чем?
по-моему он нас троллит.... или просто идиот.
Ну ок а как измерять? Мне нужно что бы GC освободил память, ну или не алоцировал сверх размера оперативки пускай себе переиспользует сколько хочет
GC тут тоже ни при чем. тебе следует разобраться с тем как работает управление памятью в питоне, как питон память аллоцирует, что такое счетчик ссылок. это во-первых.
Вот что ты нам рассказываешь: Мне надо сверить картошку, я думаю о мультиварке или антипригарном покрытии. Но у меня не получается порезать её на куски, чтобы масло таяло. Я пробовал дуть на картошку, но масло не таяло.
Давай начнем с другой стороны. В чем проблема текущего кода?
А как в реалтайме глянуть рефкаунтер?
Никак. Не нужно тебе это
В чем текущая проблема?
Коротко: Как сделать все быстро, читаемо, и с переиспользуемыми функциями?
прекрасно. покажи как ты это делаешь сейчас.
Для начала просто написать код. Убрать бессмысленные операторы типа del. Дальше понять, где функция делает несколько разных по смыслу вещей. Выделить их в отдельные функции. Дальше, посмотреть, где у тебя постоянно одни данные гоняются без изменений - сделать класс
Обсуждают сегодня