Google Gen AI Python SDK: sünkroonsed ja asünkroonsed puhverserveri seaded

Sünkroonne HTTPX, asünkroonne HTTPX ja valikuline aiohttp võivad nõuda erinevaid toetatud sisendeid.

Tavalise HTTP-puhverserveri jaoks esitage dokumenteeritud ühine käivituskeskkond enne kliendi loomist:

HTTPS_PROXY='http://proxy.example:8080' python app.py

Säilitage tavalised API-võtme ja pilve mandaadid. HTTP-kuulaja saab edastada HTTPS-sihtkohti.

Dokumenteeritud HTTPX SOCKS-tee jaoks, kui tugi on olemas, seadistage mõlemad valikusuunad:

from google import genai
from google.genai import types

options = types.HttpOptions(
    client_args={'proxy': 'socks5://proxy.example:1080'},
    async_client_args={'proxy': 'socks5://proxy.example:1080'},
)
client = genai.Client(api_key=api_key, http_options=options)

Kui sellel HTTPX SOCKS-teel lubatakse kasutada avalikku vahendajat, pakub SOCKS5 puhverserverite loend kandidaate mõlema puhverserveri URL-i jaoks. Hoidke klient alles ja sulgege see selle töökoormuse käigus. Üksnes client_args ei vali asünkroonset teed.

Valikuline aiohttp-taustaprogramm võib selle asemel asünkroonseid kutseid käsitleda. Selle puhverserveri protokollid ja päringuargumendid erinevad; kasutage paigaldatud SDK toetatud valikut ühilduva asünkroonse transpordi või HTTPX-kliendi jaoks, selle asemel et eeldada, et HTTPX-i valikud seadistavad aiohttp'i.

Märgistage ebaõnnestunud toiming sünkroonsuse, taustaprogrammi ja puhverserveri protokolli järgi. Edu ühel teel tõestab ainult seda teed.

Seotud artiklid