172 похожих чатов

А может есть уже где-то решение которое будет балансировать мои

запросы по списку проксей и всегда оставлять место для приоритетных запросов?
ситуация:
есть список api, у всех свои rate-limit'ы, могут быть вообще кастомными в зависимости от аккаунта аля (максимум 15 запросов за раз и далее не более 1 запроса каждые 3 секунды) или в зависимости от роута
нужно построить сервис который будет делать запросы к этим api и ставить приоритеты в зависимости от важности клиента (так например если приоритетных запросов нет то юзаются все прокси но одна остается на случай если такой появится, если же возникает запрос на приоритетные запросы, то неприоритетные начинают потихоньку отдавать ресурсы в своих проксях)

3 ответов

6 просмотров
Пользователь-6109f Автор вопроса

не хочется просто свой велосипед пилить, чувствую это может получится странным велосипедом, проблема то наверняка у многих возникала

Я погуглил 7 минут. Как я понял, тебе нужна форма QoS для API Gateway или Service Mesh. Не нашёл такого в open-source продуктах готового. Возможно, плохо искал.

Последний вариант: у nginx есть всякие backend и что то ещё в платной версий для таких случаев, роутить по хитрому например

Похожие вопросы

Обсуждают сегодня

а через ESC-код ?
Alexey Kulakov
29
30500 за редактор? )
Владимир
47
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
в JclConsole объявлено так: function CtrlHandler(CtrlType: DWORD): BOOL; stdcall; - где ваше объявление с stdcall? у вас на картинке нет stdcall
Karagy
8
Ребят в СИ можно реализовать ООП?
Николай
33
program test; {$mode delphi} procedure proc(v: int32); overload; begin end; procedure proc(v: int64); overload; begin end; var x: uint64; begin proc(x); end. Уж не знаю...
notme
6
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта