1Panel 的 AI 管理功能提供了一套从底层算力硬件到上层智能体(Metal-to-Agent)的闭环管理方案。
算力与基础设施管理
GPU 管理:提供显卡实时状态监测、历史监控数据看板与分组配置,支持对多节点 GPU 算力进行精细化调度与负载分析。
Ollama 管理:面向本地轻量化推理,支持 Ollama 服务的运行状态、版本和已下载模型的日常维护、一键拉取与生命周期管理。
vLLM 管理:面向企业级高性能推理,支持在 1Panel 中准备模型权重、维护启动菜谱并快速部署与监控 vLLM 推理实例。
模型服务与基准测试
基准测试:针对模型服务提供多维度压力测试工具,支持评估不同请求长度和并发配置下的吞吐量、首 Token 延迟及请求耗时等核心指标。
AI 网关:充当企业 AI 流量的统一调度中枢,实现模型账号、调用凭证、访问配额和请求转发的统一管控。客户端只需配置网关地址与统一 API Key,即可高效复用多供应商或本地部署的模型。
智能体生态与协作治理
Skills Hub(技能仓库):企业级的技能包统一管理中心,支持智能体 Skill 的导入、安全审核、发布、安装与版本维护,规避零散传递带来的安全风险。
MCP(Model Context Protocol)管理:让 AI 客户端以标准协议调用外部工具。1Panel 将通过
npx或uvx启动的 stdio MCP Server 封装在容器中,并安全转换为 SSE 或 Streamable HTTP 服务,方便智能体安全调用内部数据源。AI 应用与门户:支持集中安装和管理受支持的智能体应用,并为团队成员提供包含单点登录、API Key 自助申请等功能在内的统一门户入口。