Hugging Face Hub 1.x: cấu hình proxy tải xuống HTTPX

Cấu hình factory client của Hub 1.x hoặc môi trường tiến trình trước khi tải xuống bằng Transformers, có tính đến các đường async và Xet riêng biệt.

Trong thiết lập Transformers dùng huggingface_hub 1.x, transport HTTP Python của Hub là HTTPX. Cấu hình factory client đồng bộ của nó trước khi khởi động pipeline hoặc bộ nạp mô hình:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Đối với các lượt tải mô hình công khai được phép, danh sách proxy HTTP cung cấp ứng viên cho URL proxy HTTP này. Ví dụ dùng API 1.0.0. Hãy dùng loại client mà phiên bản chính đã cài của Hub yêu cầu; thế hệ khác có thể dùng thư viện HTTP khác.

Để phát hiện dựa trên môi trường, hãy đặt HTTP_PROXY và HTTPS_PROXY trước khi khởi chạy Python. Một trình lắng nghe HTTP có thể chuyển tiếp yêu cầu đến các đích HTTPS.

Factory đồng bộ có phạm vi xác định. Client async dùng set_async_client_factory, còn các lượt truyền Xet dùng backend riêng không sử dụng factory Python này.

Xác định giai đoạn thất bại — siêu dữ liệu Hub, nội dung bị chuyển hướng hoặc truyền Xet — trước khi chọn cấu hình. Một mô hình đã được lưu đệm có thể bỏ qua hoàn toàn các yêu cầu đó.

Bài viết liên quan