Добрый день. Прикручиваю промтейл к локи. Помогите, пожалуйста, понять, как рассчитать

нужный параметр.

Ошибка такая:
msg="error sending batch, will retry" status=429 error="server returned HTTP status 429 Too Many Requests (429): Ingestion rate limit exceeded (limit: 4194304 bytes/sec) while attempting to ingest '3838' lines totaling '1048402' bytes, reduce log volume or contact your Loki administrator to see if the limit can be increased"

С виду всё ясно-понятно, я погуглила эту ошибку, нашла что нужно увеличить ingestion_rate_mb и/или ingestion_burst_size_mb.

Сначала прописала ingestion_rate_mb, поставила 8, потом прописала ingestion_burst_size_mb - 16

Ошибка осталась прежней, изменился лишь (limit: 4194304 bytes/sec) - было 2 Мб/с условно.
Но ведь он говорит while attempting to ingest '3838' lines totaling '1048402' bytes - что пытается вставить 3838 строк, суммарно на 1048402 - это где-то 1 Мбайт. Или я не так пониаю и это 3838 строк, по 1 Мбайту каждая?

10 ответов

130 просмотров

Полную конфигу можно?

27662-Loa Автор вопроса
Peter H.
Полную конфигу можно?

Да. Спасибо за отклик. Убежала от ПК. Скину, как доберусь обратно

27662-Loa Автор вопроса
Peter H.
Полную конфигу можно?

config: | auth_enabled: false server: http_listen_port: 3100 grpc_server_max_recv_msg_size: 8388608 grpc_server_max_send_msg_size: 8388608 distributor: ring: kvstore: store: memberlist memberlist: join_members: - {{ include "loki.fullname" . }}-memberlist ingester: lifecycler: ring: kvstore: store: memberlist replication_factor: 1 chunk_idle_period: 4h chunk_block_size: 262144 chunk_encoding: snappy chunk_retain_period: 1m max_transfer_retries: 0 chunk_target_size: 8388608 max_chunk_age: 48h flush_op_timeout: 5m wal: dir: /var/loki/wal limits_config: enforce_metric_name: false reject_old_samples: false reject_old_samples_max_age: 1800h max_cache_freshness_per_query: 10m ingestion_rate_mb: 30 ingestion_burst_size_mb: 15 per_stream_rate_limit: "24MB" per_stream_rate_limit_burst: "48MB" {{- if .Values.loki.schemaConfig}} schema_config: {{- toYaml .Values.loki.schemaConfig | nindent 2}} {{- end}} {{- if .Values.loki.storageConfig}} storage_config: {{- toYaml .Values.loki.storageConfig | nindent 2}} {{- if .Values.indexGateway.enabled}} index_gateway_client: server_address: dns:///{{ include "loki.indexGatewayFullname" . }}:9095 {{- end}} {{- end}} chunk_store_config: max_look_back_period: 0s table_manager: retention_deletes_enabled: True retention_period: 1800h query_range: align_queries_with_step: true max_retries: 5 split_queries_by_interval: 15m cache_results: true results_cache: cache: enable_fifocache: true fifocache: max_size_items: 1024 validity: 24h frontend_worker: frontend_address: {{ include "loki.queryFrontendFullname" . }}:9095 frontend: log_queries_longer_than: 5s compress_responses: true tail_proxy_url: http://{{ include "loki.querierFullname" . }}:3100 compactor: shared_store: filesystem compaction_interval: 10m delete_request_cancel_period: 24h retention_enabled: true ruler: storage: type: localS local: directory: /etc/loki/rules ring: kvstore: store: memberlist rule_path: /tmp/loki/scratch alertmanager_url: https://alertmanager.xx external_url: https://alertmanager.xx # -- Check https://grafana.com/docs/loki/latest/configuration/#schema_config for more info on how to configure schemas schemaConfig: configs: - from: 2022-04-14 store: cassandra object_store: cassandra schema: v10 index: prefix: loki_index period: 360h chunks: prefix: chunk period: 360h # -- Check https://grafana.com/docs/loki/latest/configuration/#storage_config for more info on how to configure storages storageConfig: cassandra: username: cassandra password: addresses: casloki-cassandra.loki.svc.cluster.local auth: true keyspace: lokiindex

27662-Loa Автор вопроса
27662 Loa
config: | auth_enabled: false server: ...

Получяется, что при повышении параметра ingestion_rate_mb ошибка сохраняется, за ним увеличивается значение в ошибке Ingestion rate limit exceeded (limit: 15728640 bytes/sec) Как будто 15728640 = ingestion_rate_mb: 30, поделенное на 2

27662 Loa
config: | auth_enabled: false server: ...

Щас у себя Солт победю и посмотрю

27662-Loa Автор вопроса
Peter H.
Щас у себя Солт победю и посмотрю

Я, кажется, починила :) Пойду понаблюдаю. Если подтвердится, расскажу как

27662-Loa Автор вопроса
Peter H.
Как там?

да вроде летит Параметр ingestion_rate_strategy: local порешал, вероятно потому что локи на микросервисах и дистрибьютер не один

Похожие вопросы

Обсуждают сегодня

Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Вот еще странный косяк, подскажите как бороться. Я git clone сделал себе всего embassy и примеры там запускаю. Всё хорошо. Но вот решил в cargo.toml зависимости не как в приме...
Lukutin R2AJP
5
А в каком формате фреймы? Сам формат сейчас придумываешь, или что-то готовое нужно распарсить?
Okhsunrog
5
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Карта сайта