170 похожих чатов

Я пытался сейчас оптимизировать работу с хибернейтом в приложении, сделал

eager fetching через entity graph, чтобы доставать полную entity одним запросом, по итогу, запрос один, померил jprofiler'ом, сам запрос выполняется 18к наносекунд, а на уровне хибера 210 миллисекунд, это хибер такие накладные расходы несет? Даже с учетом маппинга, всяких query-кешэй, first-level кэшей и других абстракций это слишком, на мой взгляд.

37 ответов

33 просмотра

https://vimeo.com/267560432 - hibernate против jooq 🙂 Давнишнее видео, но недавно прилетело. Но вообще, там же есть общение по сети, создание объектов и прочая и прочая. Где конкретно просадка в производительности, выяснилось? Что именно оптимизируем?

Ilya-Starchenko Автор вопроса
Andrey Belyaev
https://vimeo.com/267560432 - hibernate против joo...

Сложно сказать, где именно просадка, так как я не вижу этого, в call stack'е просто нет той функции, которая сжирает 90% производительности, но я вижу разницу между jdbc-вызовом самого запроса и вызовом запроса из хибернейта, вероятно, можно попробовать через jstack записать, может тогда пойму. Оптимизируем обычный селект с джоином, он раньше lazy вытягивался, я решил сделать eager, чтоб не плодить запросы при определенных обстоятельствах, но там ботл неком, такое чувство, стал сам хибернейт.

Ilya Starchenko
Сложно сказать, где именно просадка, так как я не ...

А какой запрос генерируется? Сколько данных вытягивается? jdbc запрос мерился только для выполнения или rowmapper тоже отрабатывал?

Ilya-Starchenko Автор вопроса
Andrey Belyaev
А какой запрос генерируется? Сколько данных вытяги...

Обычный join fetch. 40 записей, и на каждую запись по две-три подзаписи, rowmapper не мерил, но не может быть же, что маппинг настолько долгий.

Ilya Starchenko
Обычный join fetch. 40 записей, и на каждую запись...

Его прямо видно в логах, что нужный делается? Не N+1 нигде?

Ilya-Starchenko Автор вопроса

возможно ты столкнулся с Cartesian Product Problem

Ilya Starchenko
Да, show-sql ставил, все красиво.

А если план разбора посмотреть этого запроса, как оно будет? У меня пока только мысль, что где-то что-то лишнее тянется.

Ilya-Starchenko Автор вопроса
Роман Нагаев
возможно ты столкнулся с Cartesian Product Problem

Я так понимаю, эта проблема связана с множественными джоинами, а у меня только одна коллекция.

Как то мало слишком, что запрос выполняется в базу за 18 микросекунд

Ilya-Starchenko Автор вопроса
Andrey Belyaev
А если план разбора посмотреть этого запроса, как ...

QUERY PLAN ----------------------------------------------------------------------------------------------------------------- Hash Right Join (cost=21.76..38.42 rows=109 width=981) Hash Cond: ((nodeporten1_.project_id = nodeentity0_.project_id) AND (nodeporten1_.node_id = nodeentity0_.id)) -> Seq Scan on node_ports nodeporten1_ (cost=0.00..15.45 rows=218 width=651) Filter: (project_id = '90686c22-9198-4f88-8e68-a37f41344a50'::uuid) -> Hash (cost=21.10..21.10 rows=44 width=282) -> Seq Scan on nodes nodeentity0_ (cost=0.00..21.10 rows=44 width=282) Filter: (project_id = '90686c22-9198-4f88-8e68-a37f41344a50'::uuid)

Ilya-Starchenko Автор вопроса
Vladimir Solonchenko
Как то мало слишком, что запрос выполняется в базу...

Действительно, врет jprofiler, 3 миллисекунды в analyze показал.

Ilya Starchenko
QUERY PLAN ---------------------------------------...

Ну выглядит не стремно, значит, надо копать в другом месте где-то. Т.е. хибер делает нормальный запрос, он быстро выполняется, но или путь туда занимает много времени (генерация SQL+сеть+ожидание выполнения), или обратно (сеть+обновление кэша+маппинг). Смотреть, что именно тупит. Можно попробовать сделать native SQL и выполнить через EntityManager, чтобы пройти мимо L1, если это он.

Ilya-Starchenko Автор вопроса
Andrey Belyaev
Ну выглядит не стремно, значит, надо копать в друг...

Это я на локальной базе проверял, попробую таки через native sql. Спасибо.

Ilya Starchenko
Это я на локальной базе проверял, попробую таки че...

Ну блин, если у тебя БД опирается на статистику при построении плана запроса, а она не обновлена, то все может знатно тупить. Если у тебя таблицы огромные, что может не быть HashJoin, например, в плане разбора. С другим набором данных будет другой план разбора. В идеале - смотреть план надо на стейджинге

Ilya-Starchenko Автор вопроса
Andrey Belyaev
Ну блин, если у тебя БД опирается на статистику пр...

Ну так проблема и локально, и на стейджинге, так что разницы большой нет.

ты пробовал сырой запрос запрос напрямую в базу отправлять?

Ilya-Starchenko Автор вопроса
Ilya Starchenko
Через jdbc? Нет. Через psql - да.

пэйджинация есть какая-то?

Да уж

Ilya Starchenko
Через jdbc? Нет. Через psql - да.

ты отправлял ровно то, что сгенерил хибер?

Ruslan
Да уж

А что не так? N+1 лучше что ли? Там запрос типа такого генерируется. Ничего криминального. ``` from nodes n left outer join node_ports np on n.id = np.node_id and n.project_id = np.project_id where n.project_id = '90686c22-9198-4f88-8e68-a37f41344a50'; ```

Ruslan
Должен летать по сути

Смотрите план запроса

Про горячий код слышал? Прогрев ВМ? Ты сейчас измерил температуру на Марсе своим комнатным термометром

Ilya Starchenko
Сложно сказать, где именно просадка, так как я не ...

Ты уверен что тебе нужен Игорь для вытягивания ща раз?) Ты читал как он работает?)

Ilya Starchenko
QUERY PLAN ---------------------------------------...

Табличка маленькая, чему там долго тянуться

Ilya-Starchenko Автор вопроса
Alexandr ∨∧‾ Emelyanov
Ты уверен что тебе нужен Игорь для вытягивания ща ...

Ты же видел, что я там написал, что делаю eager fetching через entity граф?

Ilya-Starchenko Автор вопроса
Alexandr ∨∧‾ Emelyanov
Про горячий код слышал? Прогрев ВМ? Ты сейчас изме...

Честно говоря, не совсем понимаю, о чем ты, я же вижу, что работает медленно, и по call stack'у и эмпирически.

Ilya Starchenko
Честно говоря, не совсем понимаю, о чем ты, я же в...

Ты как замерял? Сколько раз? Запустил и тут же один раз дёрнул и посмотрел результат?

Ilya-Starchenko Автор вопроса
Alexandr ∨∧‾ Emelyanov
Ты как замерял? Сколько раз? Запустил и тут же оди...

Сделал 10 запросов, посмотрел среднее, открыл call stack, посмотрел, какие запросы самые долгие, оптимизировал их, и так циклично, пока не дошел до этого.

Ну когда начинаешь что-то оптимизировать, неплохо было бы сначала погонять бенчмарки на гретой jvm, а потом уже оптимизированный код измерять

vorobyoff
Ну когда начинаешь что-то оптимизировать, неплохо ...

Там SQL оптимизируется. Температура джвм не особенно показательна будет в этом случае.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта