Google Gen AI Python SDK: синхронные и асинхронные настройки прокси

Синхронный HTTPX, асинхронный HTTPX и необязательный aiohttp могут требовать разных поддерживаемых входных данных.

Для обычного HTTP-прокси задайте документированное общее окружение запуска до создания клиента:

HTTPS_PROXY='http://proxy.example:8080' python app.py

Сохраните обычные учётные данные ключа API и облака. HTTP-прослушиватель может передавать HTTPS-адреса.

Для документированного пути HTTPX SOCKS при наличии поддержки настройте оба набора параметров:

from google import genai
from google.genai import types

options = types.HttpOptions(
    client_args={'proxy': 'socks5://proxy.example:1080'},
    async_client_args={'proxy': 'socks5://proxy.example:1080'},
)
client = genai.Client(api_key=api_key, http_options=options)

Если этому пути HTTPX SOCKS разрешено использовать публичного посредника, список SOCKS5-прокси предлагает кандидатов для обоих URL прокси. Удерживайте клиент и закрывайте его в рамках его рабочей нагрузки. Один client_args не выбирает асинхронный путь.

Необязательный бэкенд aiohttp может вместо этого обрабатывать асинхронные вызовы. Его протоколы прокси и аргументы запросов различаются; используйте поддерживаемый установленным SDK вариант совместимого асинхронного транспорта или клиента HTTPX, а не предполагайте, что параметры HTTPX настраивают aiohttp.

Помечайте неудачную операцию по синхронности, бэкенду и протоколу прокси. Успех на одном пути доказывает только этот путь.

Похожие статьи