Google Gen AI Python SDK: синхронні та асинхронні налаштування проксі

Синхронний HTTPX, асинхронний HTTPX і необов'язковий aiohttp можуть вимагати різних підтримуваних вхідних даних.

Для звичайного HTTP-проксі вкажіть задокументоване спільне середовище запуску перед створенням клієнта:

HTTPS_PROXY='http://proxy.example:8080' python app.py

Збережіть звичайні облікові дані ключа API та хмари. HTTP-прослуховувач може передавати HTTPS-призначення.

Для задокументованого шляху HTTPX SOCKS за наявності підтримки налаштуйте обидва набори параметрів:

from google import genai
from google.genai import types

options = types.HttpOptions(
    client_args={'proxy': 'socks5://proxy.example:1080'},
    async_client_args={'proxy': 'socks5://proxy.example:1080'},
)
client = genai.Client(api_key=api_key, http_options=options)

Якщо цьому шляху HTTPX SOCKS дозволено використовувати публічного посередника, список SOCKS5-проксі пропонує кандидатів для обох URL проксі. Утримуйте клієнт і закривайте його протягом його робочого навантаження. Лише client_args не вибирає асинхронний шлях.

Необов'язковий бекенд aiohttp може натомість обробляти асинхронні виклики. Його протоколи проксі та аргументи запитів відрізняються; використовуйте підтримуваний встановленим SDK варіант сумісного асинхронного транспорту або клієнта HTTPX, а не припускайте, що параметри HTTPX налаштовують aiohttp.

Позначайте невдалу операцію за синхронністю, бекендом і протоколом проксі. Успіх на одному шляху доводить лише цей шлях.

Схожі статті