запросы по списку проксей и всегда оставлять место для приоритетных запросов?
ситуация:
есть список api, у всех свои rate-limit'ы, могут быть вообще кастомными в зависимости от аккаунта аля (максимум 15 запросов за раз и далее не более 1 запроса каждые 3 секунды) или в зависимости от роута
нужно построить сервис который будет делать запросы к этим api и ставить приоритеты в зависимости от важности клиента (так например если приоритетных запросов нет то юзаются все прокси но одна остается на случай если такой появится, если же возникает запрос на приоритетные запросы, то неприоритетные начинают потихоньку отдавать ресурсы в своих проксях)
не хочется просто свой велосипед пилить, чувствую это может получится странным велосипедом, проблема то наверняка у многих возникала
Я погуглил 7 минут. Как я понял, тебе нужна форма QoS для API Gateway или Service Mesh. Не нашёл такого в open-source продуктах готового. Возможно, плохо искал.
Последний вариант: у nginx есть всякие backend и что то ещё в платной версий для таких случаев, роутить по хитрому например
Обсуждают сегодня