у меня есть сервер в США. Можно ли настроить работу с API так чтобы мои запросы из РФ шли в open ai через этот сервер? Форварднуть там нужный TCP порт или как-то еще, VPN не предлагать, с VPN это понятно как делать.
Напиши на каком-нибудь fastapi бэк который будет слушать определенный порт на твоем сервере и перенаправлять запросы уже работая с openai api. Обратно будет отдавать тебе инфу от api. Просто man-in-the-middle по факту.
звучит как прокси
я хочу использовать сервер только для open ai related stuff
простейший туннель делается через ssh. ssh -D 127.0.0.1:6666 <сервер в США> - создаёт socks5 прокси на локалхосте, порт 6666. далее, если например курл используется: curl --proxy socks5h://127.0.0.1:6666 ...
порт 6666 взят для примера? или он имеет отношение к open ai?
для примера, можно любой. это локальный порт
Все: ии уничтожит человечество! Openai: пусть к нашему апи обращаются через порт 6666
как форварднуть порт я примерно представляю, вопрос был в деталях все-таки. Что конкретно и как поменять у себя на машине.
ну, смотря что используется для HTTP запросов в апи. если делаете кодом, почти любая либа должна уметь работать с socks5 проксями, надо смотреть в документацию. я для курла написал какой аргумент написать. каких деталей не хватает?
у меня есть код на питоне) from "langchain.llms import OpenAI" - что мне добавить в этот код / переменные среды / ввести в терминал, чтобы запросы в open ai шли не напрямую, а через другой сервер с ip 123.123.123.123 ? =)
Отправлять туда запросы)) а если серьезно, если это твой сервер настрой его как vpn сервер, в интернете полно туториалов
можно попробовать переменную окружения поставить https_proxy=socks5://127.0.0.1:6666, либо all_proxy в то же значение, либо обе вместе. возможно надо поставить ещё пакет pysocks или чёто ещё. и может само заработает
если серьезно, VPN там есть. Если я спрашиваю как это сделать без VPN - и подчеркиваю сразу что без VPN - значит есть какие-то соображения почему я хочу так сделать
Где ты это написал?
о, спасибо, вот это кажется что-то инетресное
Обсуждают сегодня