184 похожих чатов

Это одноразовая акция, или вы хотите это дело регулярно повторять?

4 ответов

19 просмотров

Текущий процесс 1. Тянем все данные в не отсортированном виде List<(search, type, offer, codes, agency, rule_Id)> 2. Создаем из этого в Dictionary<(search, type, offer, codes), (agency, rule_id)[]> 3. Словарь кастим в List<(search, type, offer, codes, (agency, rule_id)[]>. 4. Лист сериализуем кусками и в редиску Хочу поменять на 1. Тянем данные кусками отсортированные по ключу (search, type, offer, codes) 2. Т.к. данные отсортированы, складываем сразу в List<(search, type, offer, codes, (agency, rule_id)[]> Если прочитанная строка равна предыдущей, то нужно добавить значение в (agency, rule_id)[] Иначе добавялем в лист новую запись (search, type, offer, codes, (agency, rule_id)[] 3. Когда прочитали какое-то заданное кол-во строк, то сериализуем весь List, кроме последнего элемента

Sergei
Текущий процесс 1. Тянем все данные в не отсортиро...

У хоста есть 64 ГБ оперативы, но я пытаюсь сделать потоковое формирование бинарников Хост за раз не справляется, там до 500 миллионов исходных правил. Типы (search, type, offer, codes) short, byte, short, string Поглядываю также в сторону Nested

Sergei
У хоста есть 64 ГБ оперативы, но я пытаюсь сделать...

какая версия КХ? Почитайте changelog про этот optimize_read_in_order. Там пишут что что-то меняли в 22.2, и у меня есть воспоминание, что раньше оно было выключено. Но если вы сможете добиться, чтобы КХ не сортировал все в памяти, а стримил вам напрямую с диска, то ваше приложение может само делить на удобные вам батчи и распределять по многочисленным редисам.

Boris
какая версия КХ? Почитайте changelog про этот opt...

optimize_read_in_order включено по умолчанию после 19.16

Похожие вопросы

Обсуждают сегодня

30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Карта сайта