产品 / 面向 AI 开发者

ModelSphere

正式版

自有环境中的 Hugging Face Hub，设置一个环境变量即可连接现有客户端。

ModelSphere 部署在自有环境中，在协议层兼容 Hugging Face Hub API。设置 HF_ENDPOINT 后，transformers、datasets、diffusers、huggingface-cli 和 git-lfs 等标准客户端即可连接仓库。服务端可接收 huggingface_hub 1.x 的 Xet 传输，并保存为普通 LFS 对象；所有传输均经 ModelSphere 代理，客户端无需直连对象存储。公共 Hub 内容可按需缓存，或按计划提前下载以供物理隔离环境使用。平台提供 OIDC 单点登录、细粒度个人访问令牌、组织与团队管理、私有仓库、审计日志和 Prometheus 指标，支持在线调整缓存与保留策略，并通过单个 tar 包完成备份与恢复。

全部产品

产品规格

版本: v1.8.1 — 正式版
协议: Hugging Face Hub API · git（HTTPS 与 SSH）· git-LFS（> 5 GiB，经 HF 分片）· 面向 huggingface_hub 1.x 的 Xet
模式: 主仓库 · 透传缓存 · 定时预取
数据集查看器: 自动识别 config 与 split · 通过范围请求分页浏览 Parquet、CSV、JSONL（含 zstd）
运维: OIDC · 令牌作用域 · 审计日志 · Prometheus · 可在线调整的缓存、预取和保留策略 · 单个 tar 包备份
兼容性保障: CI 使用原生 huggingface_hub、git 和 git-lfs 测试，每周对最新客户端执行回归测试
语言: English · 简体中文

使用示例

通过示例了解用法。

无需专用 SDK，也无需重写客户端。 ModelSphere 可直接与现有工具对接。

通过环境变量配置客户端

$ export HF_ENDPOINT=https://models.intra.example

# 现有客户端可直接使用，无需修改代码
from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-3.1-8B")
# 由您的仓库提供；可缓存自上游，也可在物理隔离环境中使用▌

协议层兼容 Hugging Face Hub API——包括 git clone 与数 GB 级的 LFS 传输。

核心能力

ModelSphere 的主要功能

兼容 Hugging Face Hub 协议

transformers、datasets、diffusers、huggingface-cli 设置 HF_ENDPOINT 后即可连接。服务端接收 huggingface_hub 1.x 的 Xet 传输并保存为普通 LFS 对象，无需改动存储系统，无需 fork 或打补丁，也无需引入专用 SDK。CI 使用实际客户端进行兼容性测试，并每周对最新版本执行回归测试，提前发现上游变化。

基于 git 管理模型版本

git clone、git lfs pull、git lfs push 原生可用；超过 5 GiB 的对象通过 Hugging Face 分片传输上传。模型版本通过 git 分支、标签和提交管理，可沿用现有操作习惯。

完整的仓库浏览界面

Web 界面支持搜索及按 tag、pipeline、library 筛选，提供带代码高亮和 GitHub 风格提示块的模型卡、文件查看器、提交历史、讨论与点赞。数据集查看器自动识别 config 和 split，通过范围请求分页浏览 Parquet、CSV 或 JSONL，按需加载图片与音频。首页分别展示本地内容与缓存内容，便于了解仓库存储情况。

公共 Hub 的透传缓存

连接 huggingface.co 后，可自动缓存团队下载的内容，也可按计划提前下载，供物理隔离环境使用。

内置企业管理功能

OIDC SSO、带细粒度作用域的个人访问令牌、组织与团队、公私仓库、全量变更审计日志、随 Chart 发布的 Grafana 仪表盘与 Prometheus 指标，以及单个 tar 包的备份恢复。

工作原理

将现有工具连接到私有模型仓库。

步骤 01

设置 HF_ENDPOINT

设置 HF_ENDPOINT 后，标准 Hugging Face 客户端即可连接自有仓库。
步骤 02

推送、拉取、克隆

用 huggingface-cli 或 git-lfs 上传微调模型；经内置缓存拉取基础模型——按需加载，或为物理隔离环境预取。
步骤 03

权限管理与监控

通过 OIDC 认证和令牌作用域控制访问，使用审计日志记录变更，并通过 Prometheus 查看调用指标。