1panel/ai-gateway repository overview

⁠什么是 1Panel AI 网关？

1Panel AI 网关是面向企业和团队的 AI 统一接入与治理平台，提供模型代理、智能路由、权限控制、内容合规和用量分析等能力，让 AI 应用更安全、稳定、经济地使用不同模型资源。

AI 应用只需配置统一的 Base URL 和 API Key，即可通过标准接口访问公有云 API、本地 vLLM 集群及其他模型服务。10 人及以下规模的团队可免费使用完整的 AI 网关治理能力。

⁠核心能力

• 统一接入与模型代理：集中接入不同供应商和本地模型，通过模型映射与账号池统一调度。
• 席位与权限管理：按用户组、用户和 API Key 管理模型权限、并发限制与 Token 配额。
• 智能路由：根据请求内容与预设规则，将任务分发至合适的模型组。
• 负载与并发控制：结合账号优先级、实时负载和健康状态分配请求，降低单点依赖。
• 内容合规：提供敏感词、语义审核和调用内容审计能力。
• 用量分析：统计请求量、Token 消耗、缓存利用率和响应耗时，帮助团队分析成本与排查问题。

⁠快速开始

⁠通过 1Panel 应用商店部署

你也可以通过 1Panel 应用商店⁠ 快速部署。

⁠使用 Docker 部署

docker run --pull always -d \
  --name 1panel-ai-gateway \
  --restart unless-stopped \
  -p 8080:8080 \
  -v /opt/ai-gateway:/opt/ai-gateway \
  1panel/ai-gateway

首次启动后，使用以下命令查看管理员临时密码：

docker logs 1panel-ai-gateway

通过 http://<服务器 IP>:8080 访问 1Panel AI 网关。首次登录后请立即修改临时密码。