170 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Ассемблер Ассемблер
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
DevsHelper DevsHelper
Big Data Science :: AI / ... Big Data Science :: AI / ...
SwiftBook SwiftBook
Delphi & Lazarus Delphi & Lazarus
Solidity Development Solidity Development
Evolution CMS официальное... Evolution CMS официальное...
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
Dart / Flutter Dart / Flutter
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
IDE и редакторы — русског... IDE и редакторы — русског...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Lame C Lame C
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
dlang.ru dlang.ru
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
Delphi Community Delphi Community
Server Side Swift Develop... Server Side Swift Develop...
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Modern::Perl Modern::Perl
Oracle RU Oracle RU
DevOps DevOps
ru.nim.talks ru.nim.talks
Odoo talks & fun Odoo talks & fun
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
Haskell Start Haskell Start
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
Python для анализа данных Python для анализа данных
ErlangRus ErlangRus
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
Electron.js Electron.js
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
MySQL MySQL
pro.osdev - os developmen... pro.osdev - os developmen...
Это RabbitMQ Это RabbitMQ
QA juniors QA juniors
GameDev for Web GameDev for Web
Lame C++ Lame C++
Go Get A Job Go Get A Job
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Tilda Developers Tilda Developers
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
FreePascal & Lazarus FreePascal & Lazarus
WordPress – русскоговорящ... WordPress – русскоговорящ...
Язык программирования Jul... Язык программирования Jul...
Django Django
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
WebAssembly — русскоговор... WebAssembly — русскоговор...
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
macOS Developers — русско... macOS Developers — русско...
systemd systemd
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Python beginners Python beginners
xtemple-

Подскажите, как правильно читать огромные csv файлы? по 10 млн

строк, нашел решение с использованием chunksize этого хватит?

#backend #programming #python #russian
0

23 ответов

14 просмотров
Tishka17-

for row in reader: ... не очень понятно о чем вы, про пандас что ли?

0
04.09.2023
Alex-
Tishka17
for row in reader: ... не очень понятно о чем в...

ммм, а можно как-то ускорить это?

0
04.09.2023
Alex-
Tishka17
куда уж быстрее?

Пару недель назад собесился в какую-то то ли дочку вконтакта, то ли проект основанных выходцами оттуда. Короче на собесе тимлид спросил тоже как раз как обработать большой csv. Я объяснил про readlines, а он спросил про можно ли быстрее. Я объяснил про чтение чанками. Он сказал что можно ускорить чтение файлов "побитовыми сдвигами" и сказал так сделано в библиотеках типа пандаса.

0
04.09.2023
xtemple- Автор вопроса
Tishka17
for row in reader: ... не очень понятно о чем в...

Да, про пандас, сейчас у меня файл читается порядка 20 минут

0
04.09.2023
Tishka17-
Alex
Пару недель назад собесился в какую-то то ли дочку...

кстати https://docs.python.org/3/library/io.html#io.BufferedReader юзается по дефолту при open, можно поиграть с размером буфера

0
04.09.2023
Tishka17-
xtemple
Еще нет!

ты какую-то аналитику в пандасе делаешь или нет?

0
04.09.2023
Tishka17-
xtemple
Да

попробуй ещё явно выставить типы колонок

0
04.09.2023
xtemple- Автор вопроса
Tishka17
попробуй ещё явно выставить типы колонок

Проблема в том, что для разных файлов они разные, то есть данные одни, но разбросаны

0
04.09.2023
Alex-
Alex
Пару недель назад собесился в какую-то то ли дочку...

Ну вообще я подразумевал такое решение: Мы читаем из файла чанкам read(n). Чанк добавляется в очередь (думаю deque подойдет). Из деки мы извлекаем n-ое количество строк подразумевая что строки разделены разрывом строки \n. Ну и скармливаем это тому же csv и обрабатываем.

0
04.09.2023
evle-
Alex
Пару недель назад собесился в какую-то то ли дочку...

readlines для длинных файлов - это брутально, конечно.

0
04.09.2023
Alex-
evle
readlines для длинных файлов - это брутально, коне...

ну там на собесе был вопрос можно ли это сделать как-то быстрее, чем просто readlines

0
04.09.2023
evle-
Alex
ну там на собесе был вопрос можно ли это сделать к...

Ну, вообще, вопрос в том, скорость чего мы меряем. Если росто прочитать и сложить в кучу, readlines, видимо, близко к оптимальному. Но обычно с данными что-то надо делать, а вот хранить их все в памяти не обязательно.

0
04.09.2023
Alex-
evle
Ну, вообще, вопрос в том, скорость чего мы меряем....

там именно в скорости чтения файла был вопрос.

0
04.09.2023
evle-
Alex
там именно в скорости чтения файла был вопрос.

На скорость чтения из файла ты толком влиять не можешь.

0
04.09.2023
Alex-
evle
На скорость чтения из файла ты толком влиять не мо...

да, но идея выше в том что мы реже читаем из файла и делаем это какими-то большими порциями.

0
04.09.2023
evle-
Alex
да, но идея выше в том что мы реже читаем из файла...

Тогда вопрос нев "именно скорости чтения из файла".

0
04.09.2023
Pavel-Павлик
Alex
да, но идея выше в том что мы реже читаем из файла...

Ну, так у тебя ядро будет буфферизовать чтение

0
04.09.2023

Похожие вопросы

Python beginners Python beginners / Alex
Подписаться

Что лучше vs code или pycharm? Всю жизнь пользуюсь pycharm но интересует vs code, так как поддерживает другие яп например js который я немного знаю. + У меня какие-то траблы...

#backend #programming #python #russian
07.10.2023
0
78 ответов
Python beginners Python beginners / Alexandr
Подписаться

Аргумент 200, присвоился иксу? И получилось 100+200?

#backend #programming #python #russian
12.10.2023
0
79 ответов
Python beginners Python beginners / Иван
Подписаться

https://pastebin.com/SG6JugK0 Что не так?

#backend #programming #python #russian
07.10.2023
0
71 ответов
Python beginners Python beginners / Mihail
Подписаться

на всякий случай для себя хочу уточнить. Правильно ли я понимаю, что если я буду использовать докер, то необходимость виртуальных окружений virtualenv отпадает?

#backend #programming #python #russian
18.11.2023
0
50 ответов
Python beginners Python beginners / Alex
Подписаться

Что еще за "синхронизированная цепочка команд" ? Синхронизированная с чем?

#backend #programming #python #russian
29.08.2023
0
63 ответов
Python beginners Python beginners / Alex
Подписаться

знание какого яп будет хорошо сочетаться с python? интересует бэкенд

#backend #programming #python #russian
11.10.2023
0
55 ответов
Python beginners Python beginners / Dmitriy Тiutiunnyk
Подписаться

Как вы вообще относитесь к коду из разряда is_valid: bool = .... if not is_valid: return False Норм это или не очень по питоновски?

#backend #programming #python #russian
22.11.2023
0
44 ответов
Python beginners Python beginners / Артём
Подписаться

А как говориться без бумажки ты какашка, без диплома кто меня возьмет официально?

#backend #programming #python #russian
15.05.2023
0
70 ответов
Python beginners Python beginners / Andrew Korsten
Подписаться

Есть ли у вас опасения, что ИИ постепенно заберет работу у кодеров, включая питонистов?

#backend #programming #python #russian
07.10.2023
0
47 ответов
Python beginners Python beginners / 🍀Perfect ink🍀
Подписаться

Друзья, всем доброго времени суток 👋👋👋👋👋👋🤝 Важный вопрос и уверен уже не первый ))) Прошу, подскажите пожалуйста верный путь в какой именно школе лучше начать изучение програм...

#backend #programming #python #russian
06.08.2023
0
51 ответов
Смотреть еще
Python beginners Python beginners
Подписаться
Вопросов 25487
Ответов 104318
Участников 14815
Telegram @ru_python_beginners

Обсуждают сегодня

Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Мдя, прикол, боевая сборка запускается (именно под отладчиком) после F9 примерно полторы минуты (97 секунд если быть точным). Начал копать - проблема детектится сразу - зависа...
Александр (Rouse_) Багель
38
Всем привет! Подскажи, пожалуйста, как передать в TComboBox сразу значение и id записи. На Delphi я делал так: ComboBox1.Items.AddObject('Какое-то значение', Pointer(id запис...
Евгений
13
я так понимаю, я так подозреваю, что создание такого плагина для человека, кто умеет писать плагины для делфи потребует минут 5-10 времени. но это мое подозрение. хотелось бы ...
Kraszx
7
Товарищи, кто работа с iphelper? Или может я в самой логике ошибки фигачу, не пойму.... var ifTable : PMIB_IFTABLE; size, corSize: DWORD; Buffer ...
Warfarellen
4
Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
50
Коллеги, добрый вечер. Создаю коллекцию от TFPGMap, ключ - перечисление, значение - целое. Нужно отсортировать коллекцию по значению. Как это можно сделать?
Kirill Filippenok
11
Привет, такой вопросик появился кажется ли вам что Rust слишком сложный/строгий для высокоуровневого программирования и слишком "безопасный"/строгий для низкоуровневого?
Крокант
10
Скажи а ты когда этот канал создавал ты уже дельфи не любил, или это со временем пришло?
Роман Лях (rgreat)
18
Всем привет! Использую кастомное модальное диалоговое окошко, все по классике - mrOK, mrCancel как ModalResult. Однако есть нюанс - в главной форме есть универсальный обработч...
Олег Гранишевский
20
Карта сайта