Google Gen AI Python SDK: sinchroninės ir asinchroninės tarpinio serverio nuostatos

Sinchroninis HTTPX, asinchroninis HTTPX ir pasirenkamas aiohttp gali reikalauti skirtingų palaikomų įvesčių.

Įprastam HTTP tarpiniam serveriui pateikite dokumentuotą bendrą paleidimo aplinką prieš kurdami klientą:

HTTPS_PROXY='http://proxy.example:8080' python app.py

Išsaugokite įprastus API rakto ir debesijos prisijungimo duomenis. HTTP klausytojas gali perduoti HTTPS paskirties vietas.

Dokumentuotam HTTPX SOCKS keliui, kai yra palaikymas, sukonfigūruokite abu parinkčių rinkinius:

from google import genai
from google.genai import types

options = types.HttpOptions(
    client_args={'proxy': 'socks5://proxy.example:1080'},
    async_client_args={'proxy': 'socks5://proxy.example:1080'},
)
client = genai.Client(api_key=api_key, http_options=options)

Kai šiam HTTPX SOCKS keliui leidžiama naudoti viešą tarpininką, SOCKS5 tarpinių serverių sąrašas siūlo kandidatus abiem tarpinio serverio URL. Išlaikykite klientą ir uždarykite jį per jo darbo krūvį. Vien client_args nepasirenka asinchroninio kelio.

Pasirenkamas aiohttp pagrindas gali vietoj to tvarkyti asinchroninius iškvietimus. Jo tarpinio serverio protokolai ir užklausos argumentai skiriasi; naudokite įdiegto SDK palaikomą suderinamo asinchroninio transporto arba HTTPX kliento pasirinkimą, o ne manykite, kad HTTPX parinktys sukonfigūruoja aiohttp.

Žymėkite nepavykusią operaciją pagal sinchroniškumą, pagrindą ir tarpinio serverio protokolą. Sėkmė viename kelyje įrodo tik tą kelią.

Susiję straipsniai