208 похожих чатов

Всем привет. Есть проблема - при большой выборке (порядка 15 тыс

строк из таблиц пользователей) делаю много доп запросов на сбор статистики по этим пользователям из других таблиц. Делаю сбор данных, но процесс крэшится.
Логов нигде нет, пробовал делать выборку по оффсетам и лимитам в цикле - то же самое.
В инспекторе памяти mysqld занимает в какой-то момент весь тред, и потом просто рушится процесс.
Никто с такой ерундой не сталкивался?
Задача простая - сделать выборку пользователей и информации из связанных таблиц в highload блоках.
Но такая простая задача просто крешится. На гридах информация выводится (дублриую ее туда) но там есть оффсет и лимит и все записи выбирать не нужно.

15 ответов

12 просмотров

Т.е. даже одного пользователя не можете выбрать с нужными данными?

Евгений-Семашко JDPlex Автор вопроса
Антон (code-pilots)
Т.е. даже одного пользователя не можете выбрать с ...

Да нет, выбираются. Где-то рандомно просто крашится все.

может его система убивает потому что он много оперы начинает жрать, тогда смотри в логах системы, а не логах mysql, потому что в логах mysql ты тупо увидиш рестарт

Евгений Семашко JDPlex
Да нет, выбираются. Где-то рандомно просто крашитс...

вот как было однажды у меня при попытке сфинксом проиндексить очень большую таблицу

В смысле вы 15 тыс записей выгребаете, а потом по ним запросы делаете? А как именно делаете?

Евгений-Семашко JDPlex Автор вопроса
Eugene Zhukov
В смысле вы 15 тыс записей выгребаете, а потом по ...

По каждому юзер айди делаю ещё 3 запроса. Потом собираю все в массив.

Евгений Семашко JDPlex
По каждому юзер айди делаю ещё 3 запроса. Потом со...

У меня все нормально было. Я писал пошаговый перенос данных. Выгрузка всех юзеров со всей инфой, выгрузка всех таблиц заказов, доставок, оплат и пр. Ни разу не упал. Может на хостинге лимит для mysql очень низкий?

Евгений Семашко JDPlex
По каждому юзер айди делаю ещё 3 запроса. Потом со...

я бы на месте сервера не просто упал, а принципиально подниматься не стал. ну почему каждый раз одно и то же? соберите ID-ники в массив, затем разбейте на страницы по 500 и выполняйте запрос для всей страницы

Евгений-Семашко JDPlex Автор вопроса
Eugene Zhukov
я бы на месте сервера не просто упал, а принципиал...

Да, не, там проблема не совсем в этом, но в плане оптимизации да. Код просто пока без изменений перенёс.

Eugene Zhukov
я бы на месте сервера не просто упал, а принципиал...

страницы намного тяжелее по шагам разбивать, а можно и не попасть в таймаут.

Eugene Zhukov
я не говорил о пошаговке

человек же выгружает 15к юзеров с кучей доп инфы, там хоть как по шагам придется

Антон (code-pilots)
человек же выгружает 15к юзеров с кучей доп инфы, ...

а я о том, как убить сервер за хит даже при использовании пошаговки. Посмотрите метод \Bitrix\Iblock\Component\Base::loadPrices - поймете, о каких я страницах

Похожие вопросы

Обсуждают сегодня

Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
48
Всем привет! Скажите, никто не пытался уменьшить размер процесса ssl, которые ассоциируется с открытым соединением (не помню точное название этого процесса, но там была какая-...
Алексей
20
а проверьте, собирается ли у кого сейчас транк лазаря через делюкс? у меня вот: fpcupdeluxe: info: Lazarus Native Installer (BuildModuleCustom: UserIDE): LazBuild: building Us...
Iluha Companets
20
Мне тут приспичило встроить в программу форматировние текста SQL, расставить переносы строк и отступы так, чтобы лучше читалось. Я что-то свое изобразил, оно после ключевых сл...
Sergey Bodrov
11
This is a big issue. Just by being a citizen of a country, you are denied to contribute to Open Source software: https://youtu.be/L5Ec5jrpLVk?si=1iIuHnMPbCB4anV-
Sharuzzaman Ahmat Raslan
72
добрый день. возможно ли изменить цвет окон лазаруса? Как?
Budemposmotret
35
Господа, а кто-нибудь сталкивался с размещением на TTabControl/TTabSheet множества контролов (> 100) с последующими External: Access violation? Вот буквально на ровном месте. ...
Dmitry
29
А какие существуют способы обработки ошибок выделения памяти в ядре? Т.е., допустим, есть функция, которая возвращает адрес свободной страницы в физической памяти и диапазон в...
disba1ancer
51
Добрый день. Опять снова хочу обратиться к вам за помощью. После создания проэкта stack new, lazy.nvim + nvim-lspconfig/haskell-tools + hlint, ormolu из mason + hls из ghcup ...
Nannk
8
Does anyone have some zeroday's left?
Wito!d ♥️🩷
44
Карта сайта