1Panel 面板 AI 能力一览表!

6 阅读

1Panel 的 AI 管理功能提供了一套从底层算力硬件到上层智能体(Metal-to-Agent)的闭环管理方案。

算力与基础设施管理

  • GPU 管理:提供显卡实时状态监测、历史监控数据看板与分组配置,支持对多节点 GPU 算力进行精细化调度与负载分析。

  • Ollama 管理:面向本地轻量化推理,支持 Ollama 服务的运行状态、版本和已下载模型的日常维护、一键拉取与生命周期管理。

  • vLLM 管理:面向企业级高性能推理,支持在 1Panel 中准备模型权重、维护启动菜谱并快速部署与监控 vLLM 推理实例。

模型服务与基准测试

  • 基准测试:针对模型服务提供多维度压力测试工具,支持评估不同请求长度和并发配置下的吞吐量、首 Token 延迟及请求耗时等核心指标。

  • AI 网关:充当企业 AI 流量的统一调度中枢,实现模型账号、调用凭证、访问配额和请求转发的统一管控。客户端只需配置网关地址与统一 API Key,即可高效复用多供应商或本地部署的模型。

智能体生态与协作治理

  • Skills Hub(技能仓库):企业级的技能包统一管理中心,支持智能体 Skill 的导入、安全审核、发布、安装与版本维护,规避零散传递带来的安全风险。

  • MCP(Model Context Protocol)管理:让 AI 客户端以标准协议调用外部工具。1Panel 将通过 npx 或 uvx 启动的 stdio MCP Server 封装在容器中,并安全转换为 SSE 或 Streamable HTTP 服务,方便智能体安全调用内部数据源。

  • AI 应用与门户:支持集中安装和管理受支持的智能体应用,并为团队成员提供包含单点登录、API Key 自助申请等功能在内的统一门户入口。

功能

社区版

专业版

企业版

GPU 监控

✅

✅

✅

模型账号管理

✅

✅

✅

Ollama 管理

✅

✅

✅

模型下载器

❌

✅

✅

vLLM 部署与管理

❌

✅

✅

模型基准测试

❌

❌

✅

Skills Hub

❌

❌

✅

MCP 管理

✅

✅

✅

AI 网关

✅ 10人及以内团队

✅ 10人及以内团队

✅ 用户数不限

智能体

✅ 支持部署 5 个

✅ 不限数量

✅ 不限数量


评论