Hugging Face Hub 1.x: HTTPX жүктеу проксиін конфигурациялау

Transformers жүктеуінен бұрын Hub 1.x клиент фабрикасын немесе процесс ортасын конфигурациялаңыз, бөлек async және Xet жолдарын ескеріңіз.

huggingface_hub 1.x қолданатын Transformers конфигурациясында Hub-тың Python HTTP тасымалы HTTPX болып табылады. Pipeline немесе модель жүктеушісін іске қоспас бұрын оның синхронды клиент фабрикасын конфигурациялаңыз:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Рұқсат етілген жария модель жүктеулері үшін HTTP прокси тізімі осы HTTP прокси URL-і үшін үміткерлер ұсынады. Мысал 1.0.0 API-ін пайдаланады. Орнатылған Hub негізгі нұсқасы күтетін клиент түрін пайдаланыңыз; басқа буын басқа HTTP кітапханасын пайдалануы мүмкін.

Ортаға негізделген анықтау үшін Python іске қосылмас бұрын HTTP_PROXY және HTTPS_PROXY орнатыңыз. HTTP тыңдаушысы сұраныстарды HTTPS мақсаттарына жеткізе алады.

Синхронды фабриканың белгілі бір ауқымы бар. Async клиенттер set_async_client_factory пайдаланады, ал Xet тасымалдары бұл Python фабрикасын тұтынбайтын бөлек backend пайдаланады.

Конфигурацияны таңдамас бұрын сәтсіз кезеңді — Hub метадеректерін, қайта бағытталған мазмұнды немесе Xet тасымалын — анықтаңыз. Кэштегі модель бұл сұраныстарды толығымен өткізіп жіберуі мүмкін.

Қатысты мақалалар