Добрый день. Прикручиваю промтейл к локи. Помогите, пожалуйста, понять, как рассчитать

нужный параметр.

Ошибка такая:
msg="error sending batch, will retry" status=429 error="server returned HTTP status 429 Too Many Requests (429): Ingestion rate limit exceeded (limit: 4194304 bytes/sec) while attempting to ingest '3838' lines totaling '1048402' bytes, reduce log volume or contact your Loki administrator to see if the limit can be increased"

С виду всё ясно-понятно, я погуглила эту ошибку, нашла что нужно увеличить ingestion_rate_mb и/или ingestion_burst_size_mb.

Сначала прописала ingestion_rate_mb, поставила 8, потом прописала ingestion_burst_size_mb - 16

Ошибка осталась прежней, изменился лишь (limit: 4194304 bytes/sec) - было 2 Мб/с условно.
Но ведь он говорит while attempting to ingest '3838' lines totaling '1048402' bytes - что пытается вставить 3838 строк, суммарно на 1048402 - это где-то 1 Мбайт. Или я не так пониаю и это 3838 строк, по 1 Мбайту каждая?

10 ответов

127 просмотров

Полную конфигу можно?

27662-Loa Автор вопроса
Peter H.
Полную конфигу можно?

Да. Спасибо за отклик. Убежала от ПК. Скину, как доберусь обратно

27662-Loa Автор вопроса
Peter H.
Полную конфигу можно?

config: | auth_enabled: false server: http_listen_port: 3100 grpc_server_max_recv_msg_size: 8388608 grpc_server_max_send_msg_size: 8388608 distributor: ring: kvstore: store: memberlist memberlist: join_members: - {{ include "loki.fullname" . }}-memberlist ingester: lifecycler: ring: kvstore: store: memberlist replication_factor: 1 chunk_idle_period: 4h chunk_block_size: 262144 chunk_encoding: snappy chunk_retain_period: 1m max_transfer_retries: 0 chunk_target_size: 8388608 max_chunk_age: 48h flush_op_timeout: 5m wal: dir: /var/loki/wal limits_config: enforce_metric_name: false reject_old_samples: false reject_old_samples_max_age: 1800h max_cache_freshness_per_query: 10m ingestion_rate_mb: 30 ingestion_burst_size_mb: 15 per_stream_rate_limit: "24MB" per_stream_rate_limit_burst: "48MB" {{- if .Values.loki.schemaConfig}} schema_config: {{- toYaml .Values.loki.schemaConfig | nindent 2}} {{- end}} {{- if .Values.loki.storageConfig}} storage_config: {{- toYaml .Values.loki.storageConfig | nindent 2}} {{- if .Values.indexGateway.enabled}} index_gateway_client: server_address: dns:///{{ include "loki.indexGatewayFullname" . }}:9095 {{- end}} {{- end}} chunk_store_config: max_look_back_period: 0s table_manager: retention_deletes_enabled: True retention_period: 1800h query_range: align_queries_with_step: true max_retries: 5 split_queries_by_interval: 15m cache_results: true results_cache: cache: enable_fifocache: true fifocache: max_size_items: 1024 validity: 24h frontend_worker: frontend_address: {{ include "loki.queryFrontendFullname" . }}:9095 frontend: log_queries_longer_than: 5s compress_responses: true tail_proxy_url: http://{{ include "loki.querierFullname" . }}:3100 compactor: shared_store: filesystem compaction_interval: 10m delete_request_cancel_period: 24h retention_enabled: true ruler: storage: type: localS local: directory: /etc/loki/rules ring: kvstore: store: memberlist rule_path: /tmp/loki/scratch alertmanager_url: https://alertmanager.xx external_url: https://alertmanager.xx # -- Check https://grafana.com/docs/loki/latest/configuration/#schema_config for more info on how to configure schemas schemaConfig: configs: - from: 2022-04-14 store: cassandra object_store: cassandra schema: v10 index: prefix: loki_index period: 360h chunks: prefix: chunk period: 360h # -- Check https://grafana.com/docs/loki/latest/configuration/#storage_config for more info on how to configure storages storageConfig: cassandra: username: cassandra password: addresses: casloki-cassandra.loki.svc.cluster.local auth: true keyspace: lokiindex

27662-Loa Автор вопроса
27662 Loa
config: | auth_enabled: false server: ...

Получяется, что при повышении параметра ingestion_rate_mb ошибка сохраняется, за ним увеличивается значение в ошибке Ingestion rate limit exceeded (limit: 15728640 bytes/sec) Как будто 15728640 = ingestion_rate_mb: 30, поделенное на 2

27662 Loa
config: | auth_enabled: false server: ...

Щас у себя Солт победю и посмотрю

27662-Loa Автор вопроса
Peter H.
Щас у себя Солт победю и посмотрю

Я, кажется, починила :) Пойду понаблюдаю. Если подтвердится, расскажу как

27662-Loa Автор вопроса
Peter H.
Как там?

да вроде летит Параметр ingestion_rate_strategy: local порешал, вероятно потому что локи на микросервисах и дистрибьютер не один

Похожие вопросы

Обсуждают сегодня

Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
2
Коллеги, я тут для личных нужд пошел ставить MQTT сервер, пощупал mosquitto, но ужаснулся отсутствию такой банальности, как HTTP API для посмотреть список топиков. А тут что,...
Maksim Lapshin
14
У меня задача: написать брокер сообщений. Очереди и потребители. Очереди поддерживают приоритеты. Очередь отдает сообщения, только обработчикам с соответствующими характеристи...
Aleksandr Filippov
2
Решил тут попробовать embassy на bluepill. Все установил, собрал blink и успешно залил с помощью St link 2 китайского. Но после этого чип шиться перестал. На форумах прочел, ч...
Lukutin R2AJP
6
Привет!) Кто как юзает переменные в строках?) Чисто ради интереса Вот так: echo "У меня {$bananasAmount} бананов"; Или вот так: echo "У меня ${bananasAmount} бананов";
Виталий
3
Карта сайта