Google Gen AI Python SDK: synkroniset ja asynkroniset välityspalvelinasetukset

Synkroninen HTTPX, asynkroninen HTTPX ja valinnainen aiohttp voivat vaatia erilaisia tuettuja syötteitä.

Tavalliselle HTTP-välityspalvelimelle anna dokumentoitu jaettu käynnistysympäristö ennen asiakkaan luontia:

HTTPS_PROXY='http://proxy.example:8080' python app.py

Säilytä tavanomaiset API-avaimen ja pilven tunnistetiedot. HTTP-kuuntelija voi välittää HTTPS-kohteita.

Dokumentoidulle HTTPX SOCKS -polulle, kun tuki on käytettävissä, määritä molemmat asetusjoukot:

from google import genai
from google.genai import types

options = types.HttpOptions(
    client_args={'proxy': 'socks5://proxy.example:1080'},
    async_client_args={'proxy': 'socks5://proxy.example:1080'},
)
client = genai.Client(api_key=api_key, http_options=options)

Kun tälle HTTPX SOCKS -polulle sallitaan julkinen välittäjä, SOCKS5-välityspalvelinlista tarjoaa ehdokkaita molemmille välityspalvelimen URL-osoitteille. Pidä asiakas ja sulje se sen työkuorman aikana. Pelkkä client_args ei valitse asynkronista polkua.

Valinnainen aiohttp-tausta voi hoitaa asynkroniset kutsut sen sijaan. Sen välityspalvelinprotokollat ja pyyntöargumentit eroavat; käytä asennetun SDK:n tukemaa vaihtoehtoa yhteensopivalle asynkroniselle siirtokerrokselle tai HTTPX-asiakkaalle sen sijaan, että olettaisit HTTPX-asetusten määrittävän aiohttpin.

Merkitse epäonnistunut toiminto synkronisuuden, taustan ja välityspalvelinprotokollan mukaan. Menestys yhdellä polulla todistaa vain kyseisen polun.

Aiheeseen liittyvät artikkelit