170 похожих чатов

Что бы быстро прочитать файл можно использовать memory mapped file

в память. Мне нужно максимально быстро задампить unordered map состоящий из структур в csv файл. Можно использовать ofstream но может есть более производительный метод ? На вооружении имеется c++ 20, Ubuntu 22.04

4 ответов

16 просмотров

так прочитать или задампить) пока ничего не понятно

Вместо ostream << на каждый член структуры использовать fmt/std format/format_to. И не забыть, что для вывода строк в csv нужен кастомный форматтер, чтобы искейпил двойные кавычки и спецсимволы внутри строк.

У тебя всё упрется в скорость записи на диск. Теоретически все варианты, если явно не пессимизируешь, отработают одинаково. Кстати, примение какого алгоритма сжатия может всё ускорить, потому как собственно на диск нужно будет писать меньше. Мемори маппинг обычно юзают, когда файл не помещается в память весь и хотят по нему бегать окном и отдают это либе, что этот маппинг делает.

Alexey Petrunyaka
Вместо ostream << на каждый член структуры использ...

Зачем так? Пробежаться по объекту, сложить его в область памяти, вызвать какой упаковщик и получившееся слить на диск - если правильно сделать, то для больших объемов может оказаться быстрее. на csv не обратил внимания, так что мой совет не подойдет, вероятнее всего. Тут два затыка - форматирование собственно строк и скорость записи их в файл на диск.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Карта сайта