184 похожих чатов

6 ответов

12 просмотров

Имеется архив на 3 ГБ примерно. В этом архиве 2 миллиона файлов, которые очень мало весят, по пару КБ. Этот архив надо распаковать с этими файлами. На SSD это крайне долго, про HDD вообще молчу. На RAM диске уже быстрее. Нужна максимальная скорость или другое альтернативное решение для этой задачи. Распаковать все файлы, далее их отсортировать их (сделать по ним поиск, это .txt файлы, поиск по словам), и далее переместить найденные .txt файлы в другую папку на RAM диске, ну и потом их объединить в 1 файл. Всё это крайне долго занимает даже на RAM диске.

MX Record
Имеется архив на 3 ГБ примерно. В этом архиве 2 ми...

не уверен что в тему, но 2кк файлов в одной папке - очень плохо. почти все FS будут тормозить. попробуйте на уровне распаковки разложить их по папкам, не более 10к в каждой. но find & etc всё равно будут тормозить

sdev-E Автор вопроса
MX Record
Имеется архив на 3 ГБ примерно. В этом архиве 2 ми...

Так может вам взять обычную какую-нибудь k/v БД типа кассандры?

MX Record
Имеется архив на 3 ГБ примерно. В этом архиве 2 ми...

может в сжатом виде попробуете https://www.kernel.org/doc/html/latest/admin-guide/blockdev/zram.html

naim *nixoid
может в сжатом виде попробуете https://www.kernel....

А разве сжатие оперативной памяти прибавляет ей скорость? Разве что, только увеличивая её объём

MX Record
А разве сжатие оперативной памяти прибавляет ей ск...

ты попробуй, вообще если множество маленьких файлов то поэкспериментируй с BTRFS и Reiser

Похожие вопросы

Обсуждают сегодня

Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
75
База данных не поможет. Шифрование не поможет. Какие там ещё варианты? Накидывайте.
КТ315
20
А как лучше конвертировать физический адрес в виртуальный при маппинге? В случае ядра у меня, например, direct mapping, первые 768МБ я как есть мапплю в higher half, а остальн...
Evg Resh
26
Всем привет, подскажите/посоветуйте пожалуйста. Фаердак компоненты, имею одно место где бизнес хочет видеть при открытии формы список всех клиентов, это порядка 30к. Мои дово...
Sasha Sch
14
Ребят, если кто в курсе - скажите, а в загранке такое же засилье маркетплейсов? или там простые сермяжные интернет-магазины живут попроще?
Андрей [aharito] Харитонов
14
Коллеги, доброе утро. Запустил на удаленном хосте приложение (ручками зашел туда по ssh и запустил, не командой удаленно). Создал потом ssh-туннель, и с моей машины приложение...
Δημήτηρ
9
Привет, делаю self-hosted github actions runner'ы на k8s для автоскейлинга, они распостраняются в виде helm chart'а. Так же мне нужно будет собрать свой образ, залить его в CR...
florius0
6
Господа всем привет. Для того чтобы страница индексировалась с запросом под каждый город. Это нужно делать отдельные страницы для каждого города, или есть варианты по лучше?
Владимир
8
Хотел бы спросить у знающих, правильную ли я выбрал книгу для начала изучения ассемблера Юрова В.И ? Или есть более лучшие книги для начала обучения?
Botsman
31
Да блин, на тестах всё отлично было, теперь застрял на запуске. Как только не закавычивал, уже даже догуглился до того, чтобы string.format добавить, и на выводе получил строк...
Заха́р
2
Карта сайта