Добрый день. Прикручиваю промтейл к локи. Помогите, пожалуйста, понять, как рассчитать

нужный параметр.

Ошибка такая:
msg="error sending batch, will retry" status=429 error="server returned HTTP status 429 Too Many Requests (429): Ingestion rate limit exceeded (limit: 4194304 bytes/sec) while attempting to ingest '3838' lines totaling '1048402' bytes, reduce log volume or contact your Loki administrator to see if the limit can be increased"

С виду всё ясно-понятно, я погуглила эту ошибку, нашла что нужно увеличить ingestion_rate_mb и/или ingestion_burst_size_mb.

Сначала прописала ingestion_rate_mb, поставила 8, потом прописала ingestion_burst_size_mb - 16

Ошибка осталась прежней, изменился лишь (limit: 4194304 bytes/sec) - было 2 Мб/с условно.
Но ведь он говорит while attempting to ingest '3838' lines totaling '1048402' bytes - что пытается вставить 3838 строк, суммарно на 1048402 - это где-то 1 Мбайт. Или я не так пониаю и это 3838 строк, по 1 Мбайту каждая?

10 ответов

69 просмотров

Полную конфигу можно?

27662-Loa Автор вопроса
Peter H.
Полную конфигу можно?

Да. Спасибо за отклик. Убежала от ПК. Скину, как доберусь обратно

27662-Loa Автор вопроса
Peter H.
Полную конфигу можно?

config: | auth_enabled: false server: http_listen_port: 3100 grpc_server_max_recv_msg_size: 8388608 grpc_server_max_send_msg_size: 8388608 distributor: ring: kvstore: store: memberlist memberlist: join_members: - {{ include "loki.fullname" . }}-memberlist ingester: lifecycler: ring: kvstore: store: memberlist replication_factor: 1 chunk_idle_period: 4h chunk_block_size: 262144 chunk_encoding: snappy chunk_retain_period: 1m max_transfer_retries: 0 chunk_target_size: 8388608 max_chunk_age: 48h flush_op_timeout: 5m wal: dir: /var/loki/wal limits_config: enforce_metric_name: false reject_old_samples: false reject_old_samples_max_age: 1800h max_cache_freshness_per_query: 10m ingestion_rate_mb: 30 ingestion_burst_size_mb: 15 per_stream_rate_limit: "24MB" per_stream_rate_limit_burst: "48MB" {{- if .Values.loki.schemaConfig}} schema_config: {{- toYaml .Values.loki.schemaConfig | nindent 2}} {{- end}} {{- if .Values.loki.storageConfig}} storage_config: {{- toYaml .Values.loki.storageConfig | nindent 2}} {{- if .Values.indexGateway.enabled}} index_gateway_client: server_address: dns:///{{ include "loki.indexGatewayFullname" . }}:9095 {{- end}} {{- end}} chunk_store_config: max_look_back_period: 0s table_manager: retention_deletes_enabled: True retention_period: 1800h query_range: align_queries_with_step: true max_retries: 5 split_queries_by_interval: 15m cache_results: true results_cache: cache: enable_fifocache: true fifocache: max_size_items: 1024 validity: 24h frontend_worker: frontend_address: {{ include "loki.queryFrontendFullname" . }}:9095 frontend: log_queries_longer_than: 5s compress_responses: true tail_proxy_url: http://{{ include "loki.querierFullname" . }}:3100 compactor: shared_store: filesystem compaction_interval: 10m delete_request_cancel_period: 24h retention_enabled: true ruler: storage: type: localS local: directory: /etc/loki/rules ring: kvstore: store: memberlist rule_path: /tmp/loki/scratch alertmanager_url: https://alertmanager.xx external_url: https://alertmanager.xx # -- Check https://grafana.com/docs/loki/latest/configuration/#schema_config for more info on how to configure schemas schemaConfig: configs: - from: 2022-04-14 store: cassandra object_store: cassandra schema: v10 index: prefix: loki_index period: 360h chunks: prefix: chunk period: 360h # -- Check https://grafana.com/docs/loki/latest/configuration/#storage_config for more info on how to configure storages storageConfig: cassandra: username: cassandra password: addresses: casloki-cassandra.loki.svc.cluster.local auth: true keyspace: lokiindex

27662-Loa Автор вопроса
27662 Loa
config: | auth_enabled: false server: ...

Получяется, что при повышении параметра ingestion_rate_mb ошибка сохраняется, за ним увеличивается значение в ошибке Ingestion rate limit exceeded (limit: 15728640 bytes/sec) Как будто 15728640 = ingestion_rate_mb: 30, поделенное на 2

27662 Loa
config: | auth_enabled: false server: ...

Щас у себя Солт победю и посмотрю

27662-Loa Автор вопроса
Peter H.
Щас у себя Солт победю и посмотрю

Я, кажется, починила :) Пойду понаблюдаю. Если подтвердится, расскажу как

27662-Loa Автор вопроса
Peter H.
Как там?

да вроде летит Параметр ingestion_rate_strategy: local порешал, вероятно потому что локи на микросервисах и дистрибьютер не один

Похожие вопросы

Обсуждают сегодня

Гайз, кто-нибудь пробовал запустить probe-rs под камень, которого нет в probe-rs? Мб есть какой-нибудь пример у кого... Через target-gen попробовал сгенерировать chip-descript...
Максим Смирнов
1
Или ты челендж хочешь?
Ilya Shvechikov
7
делал кто-то на питоне аппки под ведроид? Я прост думаю с киви начать но чето такое, мб есть более простые способы сбилдить
ռɛ ʋɛʀʍօʀɛ
5
так это может кто что знает или использует что-то как макбук только не макбук? на 13…14 дюймов
Michael
9
Кто-нибудь знает почему SPM клонирует репо целиком? Некоторые репы просто огромные, как та же swift-syntax которая нужна для использования макросов. Сначала подумал, что это...
iMike
6
Так а кто может спарсить всех участников чата? Идишники
Magic
18
да пофиг на капчу зашел в чат и молчишь при этом ты нонейм? пошел вон
Magic
17
Всем привет) Есть интересующиеся криптой?) Возможно кто на пути изучения - помогу советом, исходя из личного опыта) Также есть обучающий материал и курсы, видео-уроки и отличн...
Day
2
ну а openocd его определяет как какой?
Andrey Zgarbul
6
Всем привет) Я попробовал турбо роутер октябрьский. Вроде доволен, но возникла проблемка) Бутстраповские модалки плодят .modal-backdrop элементы Если модалка открыта, должне...
Виталий
3
Карта сайта