170 похожих чатов

Коллеги, вопросик. А как реализовать логгер response body, но при

этом удалить оттуда часть полей? Есть что-то готовое, что может скажем на 20к rps работать без особых проблем...?

17 ответов

10 просмотров

Мне тоже интересно кста

А вы точно смогли сделать такой логгер? А что если вы возвращаете файл или 1000 объектов каждый раз? У вас бесконечные диски для логов?

@IlyaKaznacheev @onokonem help дядьки

Что значит "смогли сделать"? Перечитайте вопрос) Диски как раз не бесконечные, поэтому и вопрос. Ну и плюс секурность местами.

Александр Костюченко
Что значит "смогли сделать"? Перечитайте вопрос) ...

Просто не печатать response, на кой хрен он нужен в логах.

Vadim
Просто не печатать response, на кой хрен он нужен ...

Я говорю это так как сам делал логгер, который скрывал сенсетианые данные, толкну от этого респонса просто нет.

Александр Костюченко
@IlyaKaznacheev @onokonem help дядьки

А что вам надо, секреты вырезать? Это можно на уровне коллектора сделать, но не факт, что столько потянет

Ilya Kaznacheev
А что вам надо, секреты вырезать? Это можно на уро...

Да, секреты и часть тяжёлых полей. Я не пробовал, но мне кажется проц и гц захлебнутся

Александр Костюченко
Да, секреты и часть тяжёлых полей. Я не пробовал, ...

Ну мне кажется что в такой постановке они в любом месте захлебнутся. Попробуйте пойти от обратного, и логгировать только нужные поля. Если у вас 20К рпс, вряд ли кто-то будет сидеть и читать все поля в каждом запросе

Ilya Kaznacheev
Ну мне кажется что в такой постановке они в любом ...

Вы всё верно говорите. А какой алгоритм получится этого всего? Ну т.е хендлер записал бади во writer,а что дальше...?

Не знаю

Можно попробовать обрабатывать и логировать ответ nginx. Очень любопытно: какая цель логирования всех ответов?

В общем, более-менее тривиально если нет запроса на риалтайм. Встроится каким-нибудь интерцептором или мидлтварью в точку, где TLS уже отработал, проверить размер тела по заголовку и если он попадает в ожидаемые границы, то асинхронно считать его до конца, сжать и сложить в опративку. Далее по таймеру или по наполнению регулярно дампить эти данные - куда не суть важно, значимеем батчинг, чтобы размер батча бодро бежал по проводам. Не забыть реализовать backoff: если буфер уже полный и не успевает дампиться, то, например, просто выбрасывать самые старые сообщения и использовать новые (для чего складывать бы изначально неплохо в какое-то дерево, типа BST с приколами). Синхронизировать через RWLock.

The Zazaeil
В общем, более-менее тривиально если нет запроса н...

Другой типичный вариант: иметь два буфера (текущий, прежний) и атомарно менять ссылку между ними. Прежний буфер сериализовать и дампить, это если надо оптимизировать под быструю запись без конфликтов с чтением. Тут бэкофф будет сложнее чуть, а само переключение надо сделать через atomix exchange.

эту статью видели? https://dev.to/mizutani/zlog-secure-logger-in-go-to-prevent-output-of-sensitivesecret-values-394d

Максим Федоров
эту статью видели? https://dev.to/mizutani/zlog-...

сложность именно в неопределенном теле респонса?

Кафка не подходит?

Похожие вопросы

Обсуждают сегодня

а зачем этот вопрос для удаления из чата?
Mёdkinson Medvezhkin
63
Добрый день. Хочу сделать отрисовку по команде на панели. Почему-то рисуется только при втором вызове. С чем может быть связано, не подскажете? procedure TForm1.FormDblClick(...
Kirill Filippenok
20
Всем доброго дня! Подскажите может кто использовал связку Pagebuilder + Clientsetting. Сами параметры с типом pagebuilder в модуле Clientsetting работают нормально, можно такж...
Александр Добриков
12
А почему в си некоторые вещи работают с двойными кавычками некоторые с одинарными? Нельзя было все сделать с одними или чтоб работало с разными? например чтоб выводить строки ...
.
15
Всем привет! Нужен совет от опытных. Переношу свой проект с Делфи 10.2 Токио на Лазарус 3.2 установленный через инсталлятор fpcupdeluxe-x86_64-win64. При импортировании проект...
Дмитрий Завгородний
7
Эх кто-то пришел и весь праздник испортил :( You need complex FBX scene importing setup to change things on import? good luck with that. You need navigation and pathfinding? g...
Serg Gini
5
Всем привет! Подскажите. Я написал приложение на Delphi 10.2 Tokyo под Windows 10. И передо мной стал вопрос о том чтобы сделать это приложение кроссплатформенным (под Linux и...
Дмитрий Завгородний
24
Всем привет! procedure TForm1.FormCreate(Sender: TObject); type TStartEnd = record S: Byte; E: Byte; end; var a, b: TStartEnd; begin {1} a.S := 1; {2} a.E := 2; ...
Руслан Михайлович
10
Всем привет!) я тут новенький и пытаюсь освоить evolution методом тыка. У меня при переходе между папками файлов выскакивают вот такие уведомления Можете подсказать как их от...
Диман Samoed
10
Какого хера? /Sources/App/Modules/User/Models/UserLinkApple.swift:21:20: warning: stored property '_id' of 'Sendable'-conforming class 'UserLinkApple' is mutable @ID(...
Alexander Sherbakov
14
Карта сайта