169 похожих чатов

Привет. Хочу оптимизировать чтение достаточно объёмных файлов (1 GB+). Достаточно

ли будет использовать Path#forEachLine (который, как я понимаю, использует принцип BufferReader'а)?
Либо же есть какие-то более хитрые, но оптимизированные решения?

Важно уточнить, что я планирую последовательное чтение.

17 ответов

9 просмотров

Если речь про JVM, то forEachLine подойдет. Но иногда удобнее использовать что-то вроде lineSequence с последующими операторами filter, map, reduce и пр.

Aleksandr- Автор вопроса
Anton Lakotka
Если речь про JVM, то forEachLine подойдет. Но ино...

Чем это решение отличается по производительности?

Aleksandr
Чем это решение отличается по производительности?

по своей сути ничем. я лишь про удобство использования

Смотря в каком смысле. Если по памяти, то наверное да, если по скорости, то скорее всего нет

Aleksandr- Автор вопроса
Alexander Nozik
Смотря в каком смысле. Если по памяти, то наверное...

Ну смотри, мне хорошо бы быстро читать, но при этом не загружать весь буфер в память.

Aleksandr
Ну смотри, мне хорошо бы быстро читать, но при это...

Проблема с построчным чтением в том, что там буфер используется довольно неэффективно. Кроме того, не известно, где там переносы строк. Если это бинарник, там их вовсе может не быть.

Aleksandr- Автор вопроса
Alexander Nozik
Проблема с построчным чтением в том, что там буфер...

Нет, это не бинарный файл. Это csv файл. Касаемо неэффективности буфера, то тут есть тонкость. Важно в первую очередь уточнить какой именно volatile storage используется. Чтение сегментов (будь то HDD, будь то SDD) должно быть атомарным с точки зрения диска. Потому неясно как при построчно чтении можно оптимизировать буфер.

Aleksandr
Нет, это не бинарный файл. Это csv файл. Касаемо н...

Я про буфер IO. В CSV длина строки тоже может быть огромная

Aleksandr- Автор вопроса
Alexander Nozik
Я про буфер IO. В CSV длина строки тоже может быть...

Если строка огромная, то тогда это другой вопрос. Но в контексте моей проблемы как минимум несколько десятков строк должны помещаться в одну дисковую страницу

лучше всего поможет, если файлы на ssd будут

Aleksandr
Нет, это не бинарный файл. Это csv файл. Касаемо н...

да вроде бы нет подводных камней у стандартного forEachLine

Aleksandr- Автор вопроса
Iaroslav Postovalov
лучше всего поможет, если файлы на ssd будут

Последовательный поиск все равно там и там примерно идентичен. Операционные системы умеют подготавливать головку диска для чтения следующего сектора. Но да, SSD должен быть шустрее в случае параллельной обработки. Что в моем случае не вариант.

Aleksandr
Последовательный поиск все равно там и там примерн...

есть, кстати, вариант абстрагироваться от этого, взяв какую-нибудь джавовую библиотеку про стриминг csv

Aleksandr
Например?

не знаю, надо специально искать бенчмарки и по ним выбирать

Aleksandr
Последовательный поиск все равно там и там примерн...

а почему вы задумываетесь настолько глубоко?

Aleksandr
Если строка огромная, то тогда это другой вопрос. ...

Вопрос не про дисковую страницу, а про буффер в памяти. По хорошему, там надо вообще делать memory-mapping, но тут всегда надо думать, а насколько оно вам надо

Похожие вопросы

Обсуждают сегодня

Интересно, нет ли какого-то способа получить из dll не адрес самой метки, а адрес со смещением?
The Bird of Hermes
54
Делал задачу вот такую https://stepik.org/lesson/4985/step/9?unit=1083 получилось такое https://play.haskell.org/saved/ipKrepqe оно работает, тестов много не писал, но работае...
Fedor
22
что-то я не понимаю, в линуксе отладочную информацию как убрать из бинаря? он что с этой опцией, что без - одного и того же (достаточно большого) размера (да, я про лазарь)
Iluha Companets
13
Hey Does anyone know how can I receive push notifications from Github on my account? The official Github android app doesn't send notifications, and I don't use the email bec...
Jacob
10
Anyone here suffers from unexplained aural migraines, who would be up for talking for a bit? Doesn't *have* to be aural, but I am not asking about headaches, I mean actual mi...
Martin Rys
58
Всем привет, а может кто-то подсказать какие-то советы или типо того, как оптимальнее всего сапортить сервисы в разных локациях (канада + австралия + евпропа)? Будет ли ошибк...
Stas
8
Это что теперь, любой бот сможет принимать платежи без ебли с юр лицами?
Lencore
8
Не догоняю немного каким боком тут эппл Вот есть веб (мини) апп, который по факту веб сайт, просто в телеге веб вью и если там оплата, то нежно вот эти приседания?
e\\/gen
7
Сообщение* в закодированном виде. То есть, просто сделать sendMessage?text=Привет бла-бла! не получится, надо в HEX переводить, и добавлять процент, типа такого: sendMessage?t...
КТ315
21
Почему спрашиваю - поймал падение на совершенно уже пустом проекте, хочу до минимального повторяемого свести... Такой вопрос - вот эти юниты, перечисленные в инспекторе объек...
notme
6
Карта сайта