215 похожих чатов

Насколько хорош винил если прирост по данным в месяц +35гб? На

виниле будет только 1 спейс.
По полям/индексам-
owner+timestamp, составной уникальный
owner - uuid.bin(), индекс
bucket_id -unsigned, индекс
timestamp - unsigned, индекс
data - map(600 байт в среднем)


Что приходит в голову: как вариант сбрасывать data прямо из сокета не делая inflate(+1 поле в тапл: инфа о словаре)— тогда поле data будет около 120 байт, но пока в размышлениях. Можно было бы заюзать avro и жать до 80-90, но данные не особо поддаются описанию(на самом деле в лом). В общем уменьшить прирост, но прирост будет в любом случае и по этому проблема не решается. Делать обрезку старых записей не желательно, имхо данные нужны, но можно делать их обработку и чистку с усреднением. Проблема решаема масштабированием и будет решаться, но все же хочется масштабироваться поменьше).

В общем вопрос вот какой: как ведет себя винил на операциях вставки, выборки, апдейта, удаления——на 5гб и на 200гб к примеру. Условия—-секунду вставляется 100- 400 таплов, отматываем на год вперед—- 900 новых таплов в секунду, в течении 100 секунд выборка неторопясь по итератору 90000 записей: обработка 90000, удаление 19999 из них и апдейт 1.

Почему задаю вопросы— хочу понять стоит ли заморачиваться над максимальным сжатием данных(целесообразность). Стоит ли заниматься обработкой старых данных для снижения их общего объема—может получиться, что выборка+удаление скажутся на общих задержках больше, чем рост объема данных.

1 ответов

16 просмотров

4 индекса на виниле? есть шанс, что с ростом данных деградация будет фатальная

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта