208 похожих чатов

Всем привет. Есть проблема - при большой выборке (порядка 15 тыс

строк из таблиц пользователей) делаю много доп запросов на сбор статистики по этим пользователям из других таблиц. Делаю сбор данных, но процесс крэшится.
Логов нигде нет, пробовал делать выборку по оффсетам и лимитам в цикле - то же самое.
В инспекторе памяти mysqld занимает в какой-то момент весь тред, и потом просто рушится процесс.
Никто с такой ерундой не сталкивался?
Задача простая - сделать выборку пользователей и информации из связанных таблиц в highload блоках.
Но такая простая задача просто крешится. На гридах информация выводится (дублриую ее туда) но там есть оффсет и лимит и все записи выбирать не нужно.

15 ответов

3 просмотра

Т.е. даже одного пользователя не можете выбрать с нужными данными?

Евгений-Семашко JDPlex Автор вопроса
Антон (code-pilots)
Т.е. даже одного пользователя не можете выбрать с ...

Да нет, выбираются. Где-то рандомно просто крашится все.

может его система убивает потому что он много оперы начинает жрать, тогда смотри в логах системы, а не логах mysql, потому что в логах mysql ты тупо увидиш рестарт

Евгений Семашко JDPlex
Да нет, выбираются. Где-то рандомно просто крашитс...

вот как было однажды у меня при попытке сфинксом проиндексить очень большую таблицу

В смысле вы 15 тыс записей выгребаете, а потом по ним запросы делаете? А как именно делаете?

Евгений-Семашко JDPlex Автор вопроса
Eugene Zhukov
В смысле вы 15 тыс записей выгребаете, а потом по ...

По каждому юзер айди делаю ещё 3 запроса. Потом собираю все в массив.

Евгений Семашко JDPlex
По каждому юзер айди делаю ещё 3 запроса. Потом со...

У меня все нормально было. Я писал пошаговый перенос данных. Выгрузка всех юзеров со всей инфой, выгрузка всех таблиц заказов, доставок, оплат и пр. Ни разу не упал. Может на хостинге лимит для mysql очень низкий?

Евгений Семашко JDPlex
По каждому юзер айди делаю ещё 3 запроса. Потом со...

я бы на месте сервера не просто упал, а принципиально подниматься не стал. ну почему каждый раз одно и то же? соберите ID-ники в массив, затем разбейте на страницы по 500 и выполняйте запрос для всей страницы

Евгений-Семашко JDPlex Автор вопроса
Eugene Zhukov
я бы на месте сервера не просто упал, а принципиал...

Да, не, там проблема не совсем в этом, но в плане оптимизации да. Код просто пока без изменений перенёс.

Eugene Zhukov
я бы на месте сервера не просто упал, а принципиал...

страницы намного тяжелее по шагам разбивать, а можно и не попасть в таймаут.

Eugene Zhukov
я не говорил о пошаговке

человек же выгружает 15к юзеров с кучей доп инфы, там хоть как по шагам придется

Антон (code-pilots)
человек же выгружает 15к юзеров с кучей доп инфы, ...

а я о том, как убить сервер за хит даже при использовании пошаговки. Посмотрите метод \Bitrix\Iblock\Component\Base::loadPrices - поймете, о каких я страницах

Похожие вопросы

Обсуждают сегодня

А как старый хаскел с новым стыковать ? потому как тут работает https://play.haskell.org/saved/C3xpMzcd, а вот тут https://stepik.org/lesson/7602/step/9?unit=1473 нет ошибка C...
Fedor
131
Ребят, что лучше для реверса: гидра или ида?
En Vind Av Sorg
22
Вопрос я правильно понимаю что в коде newtype ArrowMap k v = ArrowMap { getArrowMap :: k -> Maybe v } getArrowMap есть функция типа k -> Maybe v, если да, то не понимаю задач...
Fedor
64
Делаю велосипед логгер. К сообщению хочу прикрутить некоторую информацию, типа, кем отправлено, какой уровень, и всякое такое. И тут подумалось мне, почему бы не хранить весь...
Serjone
24
Как Вы считаете нормально ли в двадцатых годах 21 века в ВУЗах Российской Федерации обучать студентов работе с TASM? Не слишком ли это "архаично"? (Если оффтоп или флейм для э...
Spiker01
52
а не подскажете вот это скрин из какой IDE ?
Iluha Companets
14
Комрады, хотел уточнить. Проперть в OnDestroy юнита-хозяина по-прежнему доступна? И еще уточнение: finalization юнита наступает раньше или позже OnDestroy?
Ed Doc
48
Продолжая диалог про свифт в проде – сейчас возник вопрос в активном наборе бекендеров. В основном в нашей компании мы фанаты Java Spring и полностью ей довольны. Однако найм ...
Guseyn
27
Народ всем привет Подскажите, как включить самописные dll библиотеки в итоговую сборку Сейчас при запуске dev сервера локально формируется папка build, из которой запускается...
Андрей
4
Сегодня у себя обнаружил Holodeck-2_8_0.exe (48.5 Mb). Вопрос: откуда он у меня взялся?
楽園松本
8
Карта сайта