172 похожих чатов

Вопрос не совсем по куберу, но спрошу еще тут. Кто

нибудь сталкивался с тем, что jager-spark при отработке кронджобы выжирает огромное количество памяти и его киляет оом? Сначала была проблема с тем, что ему нехватает хипа джавы. Увеличил хип добавив в https://github.com/jaegertracing/helm-charts/blob/main/charts/jaeger/values.yaml#L495 JAVA_OPTS Xms30g -Xmx30g, на контейнер также выделил 30Gi. Пробовал выдавать 100Gi — все также отваливается. Спан за 1 день чуть больше 200Гб. Джоба spark-dependency запускается каждые 3 часа.
Есть какое то решение для такого огромного потребления памяти?

11 ответов

20 просмотров

выбор спарк в качестве backend хранилища чем-то обусловлен? почему не устроил обычный эластик?

Roman Trawin
Спарк пишет в эластик

попробуйте вариант через кафку. Там намного меньшие объёмы требуются (основываюсь на своей инсталяции)

Сергей Голод
попробуйте вариант через кафку. Там намного меньши...

@rmntrvn, дополнительным плюсом (с кафкой) получите возможность сохранить трейсы, даже если эластик будет временно недоступен.

Он сохраняет все данные в памяти, это нормально

Roman-Trawin Автор вопроса

а с чем может быть связано, что джоба jaeger-spark отрабатывает каждые 3 часа, но отрабатывают только ночные джобы? Дневные с 13 до 22 все валятся по памяти. Используется эластик и кафка. По мониторингу с эластиком все норм

Roman Trawin
а с чем может быть связано, что джоба jaeger-spark...

с тем что днём работают и другие приложения и свободной памяти меньше? Или объём событий в егере ночью меньше чем днём

Roman Trawin
а с чем может быть связано, что джоба jaeger-spark...

чем больше спанов летит, тем ему труднее, и нужно больше памяти ему

Roman Trawin
а с чем может быть связано, что джоба jaeger-spark...

я правильно понимаю что у вас работает связка: jaeger agent -> collector -> kafka -> ingester -> elastic? и если да, то зачем тогда нужен спарк?

Roman-Trawin Автор вопроса
Сергей Голод
я правильно понимаю что у вас работает связка: jae...

в веб морде джагера во вкладке system architecture пропала DAG вкладка, она нужна разрабам и я так понял она появляется при успешно отработанных джобах спарка

Roman Trawin
в веб морде джагера во вкладке system architecture...

я всё же не понимаю для чего нужен спарк, если взаимодействие егеря и эластика идёт через кафку вот такая схема вполне успешно работает и не требует гигантских размеров памяти

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта