huggingface_hub 1.x を使う Transformers 環境では、Hub の Python HTTP トランスポートは HTTPX です。パイプラインやモデルローダーを起動する前に、その同期クライアントファクトリを設定します。

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

許可された公開モデルのダウンロードでは、HTTP プロキシ一覧がこの HTTP プロキシ URL の候補を提供します。例は 1.0.0 API を使用します。インストール済みの Hub メジャーバージョンが想定するクライアント種別を使ってください。別の世代では別の HTTP ライブラリを使う場合があります。

環境による検出を使う場合は、代わりに Python を起動する前に HTTP_PROXY と HTTPS_PROXY を設定してください。HTTP リスナーは HTTPS 宛先へのリクエストを中継できます。

同期ファクトリには定義された適用範囲があります。async クライアントは set_async_client_factory を使い、Xet 転送はこの Python ファクトリを使わない別の backend を使います。

設定を選ぶ前に、失敗した段階(Hub のメタデータ、リダイレクトされたコンテンツ、Xet 転送)を特定してください。キャッシュ済みのモデルはこれらのリクエストを完全に省略できます。

関連記事