169 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Ассемблер Ассемблер
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
DevsHelper DevsHelper
Big Data Science :: AI / ... Big Data Science :: AI / ...
Delphi & Lazarus Delphi & Lazarus
SwiftBook SwiftBook
Solidity Development Solidity Development
Evolution CMS официальное... Evolution CMS официальное...
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
Dart / Flutter Dart / Flutter
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
pro.Asm pro.Asm
IDE и редакторы — русског... IDE и редакторы — русског...
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Lame C Lame C
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
dlang.ru dlang.ru
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
Delphi Community Delphi Community
pro.vim pro.vim
Server Side Swift Develop... Server Side Swift Develop...
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Modern::Perl Modern::Perl
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
ru.nim.talks ru.nim.talks
DevOps DevOps
Odoo talks & fun Odoo talks & fun
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Haskell Start Haskell Start
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
ErlangRus ErlangRus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
Electron.js Electron.js
phpclub.ru phpclub.ru
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
pro.osdev - os developmen... pro.osdev - os developmen...
MySQL MySQL
Lame C++ Lame C++
QA juniors QA juniors
GameDev for Web GameDev for Web
Go Get A Job Go Get A Job
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Tilda Developers Tilda Developers
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
FreePascal & Lazarus FreePascal & Lazarus
Язык программирования Jul... Язык программирования Jul...
WordPress – русскоговорящ... WordPress – русскоговорящ...
Django Django
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
WebAssembly — русскоговор... WebAssembly — русскоговор...
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
macOS Developers — русско... macOS Developers — русско...
systemd systemd
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Kotlin Community Kotlin Community
Aleksandr-

Привет. Хочу оптимизировать чтение достаточно объёмных файлов (1 GB+). Достаточно

ли будет использовать Path#forEachLine (который, как я понимаю, использует принцип BufferReader'а)?
Либо же есть какие-то более хитрые, но оптимизированные решения?

Важно уточнить, что я планирую последовательное чтение.

#kotlin #programming #russian
0

17 ответов

27 просмотров
Anton-Lakotka

Если речь про JVM, то forEachLine подойдет. Но иногда удобнее использовать что-то вроде lineSequence с последующими операторами filter, map, reduce и пр.

0
30.11.2021
Aleksandr- Автор вопроса
Anton Lakotka
Если речь про JVM, то forEachLine подойдет. Но ино...

Чем это решение отличается по производительности?

0
30.11.2021
Anton-Lakotka
Aleksandr
Чем это решение отличается по производительности?

по своей сути ничем. я лишь про удобство использования

0
30.11.2021
Alexander-Nozik

Смотря в каком смысле. Если по памяти, то наверное да, если по скорости, то скорее всего нет

0
30.11.2021
Aleksandr- Автор вопроса
Alexander Nozik
Смотря в каком смысле. Если по памяти, то наверное...

Ну смотри, мне хорошо бы быстро читать, но при этом не загружать весь буфер в память.

0
30.11.2021
Alexander-Nozik
Aleksandr
Ну смотри, мне хорошо бы быстро читать, но при это...

Проблема с построчным чтением в том, что там буфер используется довольно неэффективно. Кроме того, не известно, где там переносы строк. Если это бинарник, там их вовсе может не быть.

0
30.11.2021
Aleksandr- Автор вопроса
Alexander Nozik
Проблема с построчным чтением в том, что там буфер...

Нет, это не бинарный файл. Это csv файл. Касаемо неэффективности буфера, то тут есть тонкость. Важно в первую очередь уточнить какой именно volatile storage используется. Чтение сегментов (будь то HDD, будь то SDD) должно быть атомарным с точки зрения диска. Потому неясно как при построчно чтении можно оптимизировать буфер.

0
30.11.2021
Alexander-Nozik
Aleksandr
Нет, это не бинарный файл. Это csv файл. Касаемо н...

Я про буфер IO. В CSV длина строки тоже может быть огромная

0
30.11.2021
Aleksandr- Автор вопроса
Alexander Nozik
Я про буфер IO. В CSV длина строки тоже может быть...

Если строка огромная, то тогда это другой вопрос. Но в контексте моей проблемы как минимум несколько десятков строк должны помещаться в одну дисковую страницу

0
30.11.2021
Iaroslav-Postovalov

лучше всего поможет, если файлы на ssd будут

0
30.11.2021
Iaroslav-Postovalov
Aleksandr
Нет, это не бинарный файл. Это csv файл. Касаемо н...

да вроде бы нет подводных камней у стандартного forEachLine

0
30.11.2021
Aleksandr- Автор вопроса
Iaroslav Postovalov
лучше всего поможет, если файлы на ssd будут

Последовательный поиск все равно там и там примерно идентичен. Операционные системы умеют подготавливать головку диска для чтения следующего сектора. Но да, SSD должен быть шустрее в случае параллельной обработки. Что в моем случае не вариант.

0
30.11.2021
Iaroslav-Postovalov
Aleksandr
Последовательный поиск все равно там и там примерн...

есть, кстати, вариант абстрагироваться от этого, взяв какую-нибудь джавовую библиотеку про стриминг csv

0
30.11.2021
Iaroslav-Postovalov
Aleksandr
Например?

не знаю, надо специально искать бенчмарки и по ним выбирать

0
30.11.2021
Anton-Lakotka
Aleksandr
Последовательный поиск все равно там и там примерн...

а почему вы задумываетесь настолько глубоко?

0
30.11.2021
Alexander-Nozik
Aleksandr
Если строка огромная, то тогда это другой вопрос. ...

Вопрос не про дисковую страницу, а про буффер в памяти. По хорошему, там надо вообще делать memory-mapping, но тут всегда надо думать, а насколько оно вам надо

0
30.11.2021

Похожие вопросы

Kotlin Community Kotlin Community / JC
Подписаться

С чего начинать вкатываться в котлин для андррйд, имея бэкграунд веб разраба?

#kotlin #programming #russian
01.06.2022
0
131 ответов
Kotlin Community Kotlin Community / Алексей Овсянников
Подписаться

Мне одному показалось, что то, что анонсировал вчера Елизаров - ну как-то такое себе... Сначала они объявляют нэймспейсы (я не понял, зачем) через очень странный синтаксис ("n...

#kotlin #programming #russian
13.10.2020
0
64 ответов
Kotlin Community Kotlin Community / Nail Khanipov
Подписаться

Кстати о котлине.. Я глянул немного в рефлексию(в дебагере пробежался о KType/KClass) И ужаснулся.. я обнаружил там.... Protobuf. Почему его используют?

#kotlin #programming #russian
05.06.2022
0
37 ответов
Kotlin Community Kotlin Community / Kirill Timofeev
Подписаться

тук быстрый вопрос: в какой версии котлина планируют multiple receivers зарелизить?

#kotlin #programming #russian
03.05.2022
0
38 ответов
Kotlin Community Kotlin Community / Aλex Sokol
Подписаться

Всем привет. Сегодня хочу обсудить немаловажную для меня проблему, о которой думаю весь отпуск (уже 2 недели). Как, всё-таки правильно обрабатывать ошибки. Сразу предупреждаю,...

#kotlin #programming #russian
18.08.2022
0
11 ответов
Kotlin Community Kotlin Community / Andrey Antipov
Подписаться

Что-то я думал, что понимаю, как работает реификация, но как-то не могу объяснить такое поведение, как ниже. Может кто-то поможет? import kotlin.reflect.KType fun main() { ...

#kotlin #programming #russian
20.01.2021
0
42 ответов
Kotlin Community Kotlin Community / N V
Подписаться

Добрый день может, кто то подскажет почему в кторе при омтене выполнения запроса в постмане, запрос на сервере продолжаети работать? Хотя я проверяю, корутину на активность. В...

#kotlin #programming #russian
17.05.2022
0
19 ответов
Kotlin Community Kotlin Community / Alex A
Подписаться

Подскажите пожалуйста, как лучше поступить, если мне нужно используя поля из исходного Json создать Json с другой структурой? Сейчас я делаю так: 1. делаю парсинг исходного j...

#kotlin #programming #russian
18.05.2021
0
37 ответов
Kotlin Community Kotlin Community / rnamod1
Подписаться

Извиняюсь, возможно, вопрос глупый и неуместный, но я не понимаю, зачем котлин, если есть джава? Как будто уши (наследие) джавы повсюду торчат. Что даёт котлин в отличие от д...

#kotlin #programming #russian
05.05.2022
0
28 ответов
Kotlin Community Kotlin Community / Aλex Sokol
Подписаться

вообще можно было бы сделать Nothing & String? какой-нибудь для сарткаста

#kotlin #programming #russian
10.02.2022
0
31 ответов
Смотреть еще
Kotlin Community Kotlin Community
Подписаться
Вопросов 25315
Ответов 43183
Участников 6026
Telegram @kotlin_lang

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта