170 похожих чатов

Всем привет. Вопрос по архитектуре: база мускуля. Есть таблица из

>50к строчек. Есть необходимость частенько туда что то инсертить или циулом обрабатывать каждую строчку.

Каждый раз делать запрос в базу - затратно по времени и нагрузке. Есть ли какие то варианты ускорения работы с таким большим данным? Ну например как то синхронизировать таблицу с базы с редис, и уже там проводить разного рода манипуляции и дублировать логику в базу или как то в целом синхорнизировать какое то локальное хранилище с базой?

Вообщем у кого какие идеи на тему ускорения сией проблемы?

10 ответов

19 просмотров

Проблема не в 50к строчек, а в неправильной архитектуре. Убери обработку строчек в цикле. Пути на подумать: 1) Структура хранения данных 2) Сама база – возможно тебе нужен другой тип хранилища 3) Убедись что нода и база в одном дата-центре

3 имеет значения? это про скорость что-ли?

Rine GaGa- Автор вопроса

2 пункт - например какие? монга? постгр?

sql

я не знаю твоего домена, а ты не знаешь различия баз данных. Будет диалог слепого с глухим.

Да

Rine GaGa- Автор вопроса

ок, понял принял, благодарю

50 тысяч записей, это ничего, до миллиона будет точно нормально работать с несколькими джоинамм, даже на нормализованной до какой-нибудь 6 формы. Дальше можно денормализовывать частично, но а что дальше, у Никиты экспертиза точно больше, он ответит лучше.

Rine GaGa- Автор вопроса

ну если просто 50к записей - то да, секунда-полторы выгрузка. Просто там внутри доп. джоины имеютци и обработка каждой строчки (от нее не уйти) Ну и чтобы каждый раз не делать такое, пришла идея где то разок все это сделать, а потом время от времени дописывать/перезаписывать значения, при этом в базе как хранилось - так и будет храниться

Возможно стоит посмотреть в сторону колончатых, потому что пахнет преагрегациями.

Похожие вопросы

Обсуждают сегодня

Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
И никого не интересует какие пакеты кто использует. ((% Заходишь на сайт симфони и видишь поддержку Украины - по законам РФ это ж экстремизм. Только никто не отказывается от с...
Am Ambrion
11
лучше скажите, причём тут паскаль?
Alexey Kulakov
36
Чтобы перехватить все нажимания буков на форме, надо хук ставить? Пробовал на форме ОнКейДаун, оно ловит клаву если фокус не на компоненте с вводом текста
Serjone
15
Народ! Впервые клиенту пришло письмо от РКН, у вас, дескать, есть яндекс метрика, а нигде не написано, что вы ее юзаете. Никто не сталкивался?
Sasha Beep
14
Всем привет! вывожу на общей стр дочерние ресурсыв каждом ресурсе галерея, и первая фотка должна выводиться на общей [!DocLister? &prepare=photo !]
Alekso
12
А можно вопрос? Мне сегодня сказали что у меня функция (которая просто заполняет массив значениями) не правильная void Full(double * arr, int n) { for (int i = 0; i < n; i...
† C E †
7
День добрый, подскажите пожалуйста, есть ли какой-то способ сказать ребару не компилировать определённое приложение? Всю доку их перечиатл ничего подобного не нашёл
Кирилл
14
Добрый вечер. Хочу чтобы у меня в классе поле было функцией, которая возвращает строку. Делаю так: interface ... TGetOutPath = function : String of object; ... protec...
Kirill Filippenok
12
Всем привет. Возможно ли выполнить код ahk без интерпритатора? Имея только скомпилированный ехе файл? Например как функция eval
proxy
6
Карта сайта