170 похожих чатов

Какую, все же Господа, хорошую задачу задал г-н Artur: /// Мне нужно

максимально быстро задампить unordered map состоящий из структур в csv файл.
///
С утра над ней думаю, но вопросов больше чем ответов.

Совершенно понятно, что поскольку вопрос задан в про.цхх, то все ОС специфичные методы отпадают.
Мы можем думать только в рамках стд. Тем более что автор не уточнил какая у него ОС и какое железо.
Все же будем полагать, что ОС у него есть и у железа есть ММУ. То есть у нас есть пользовательские потоки и потоки ядра, которые собственно и пишут.
Исходя из этих предпосылок оптимальный алгоритм выглядит так: "пока мы форматирует очередной блок Ось предыдущий блок уже пишет"
Но насколько с++ умеет в такой алгоритм?
И какого размера должен быть оптимальный блок?
Также исходя из термина "задампить" мы можем предположить что задача может решаться в ситуации невозможности выделения памяти, отсутствия места на стекле и/или невозможности создания дополнительных пользовательских потоков.

Очень, очень интересно...

10 ответов

27 просмотров

пара минут гугла: https://stackoverflow.com/a/1120224 https://github.com/d99kris/rapidcsv не так уж и долго это преобразовать в дампер...

Int-Unsigned Автор вопроса
blue hatred
пара минут гугла: https://stackoverflow.com/a/112...

Не цепляйтесь за "цсв". Это может быть и json и бсон и что угодно. Во постановке задачи есть "как наиболее быстро", а не "как наиболее просто в цсв". Для простоты будем полагать, что у нас вполне приличный форматер в цсв. Хотя тут тоже есть нюансы в ситуации недостатка памяти и проч.

Int Unsigned
Не цепляйтесь за "цсв". Это может быть и json и бс...

ну я прочитал что он там написал, начать можно с того, что сам его вопрос поставлен криво, а закончить тем, что вы переусложняете задачу, чего делать не стоит. Про ограниченное кол-во памяти в его вопросе ни слова Дамп unordered_map в память у него ускорить не получится, разве что только если у него не своя реализация Делать второй поток для записи тоже в данном случае не нужно А вот про форматирование могу посоветовать https://github.com/nothings/stb/blob/master/stb_sprintf.h, она быстрее стандартного

Int-Unsigned Автор вопроса
blue hatred
ну я прочитал что он там написал, начать можно с т...

Ну да. Его вопрос поставлен криво и он совсем не полагает развитие своего вопроса до вида как его сформулировал я. Ваш ответ его более чем удовлетворит. А вот меня нет. Я хочу понимать оптимально быстрый алгоритм решения этой задачи. То есть "пока я форматирую очередной блок, предыдущий блок ОС уже пишет". С++ даёт такие гарантии? При последовательном вызове << точно нет, т.к. после каждого "<<" вызывается .flash. А как тогда? Отдельная тема делать это в несколько потоков. Т.п.

Я всю вторую половину недели думаю об этом,ОС Ubuntu 22.04, обычный SSD - куда дампить

Int Unsigned
Ну да. Его вопрос поставлен криво и он совсем не п...

касательно потоков, это вообще вопрос не к c++, а к ОС, и в зависимости от имлпементации тот же fwrite может как писать синхронно в этом же потоке, так и отправлять реквест к ОС на запись и тупо локать поток до вызова коллбека

Int-Unsigned Автор вопроса

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Карта сайта