One API（也叫 one-api）是一个LLM API 管理和分发系统，开源项目。

简单理解：它是一个中间层网关，把各种不同的大模型 API 统一成 OpenAI 格式对外提供服务。

🏗️ 核心架构

用户/应用
    ↓  (统一 OpenAI 格式)
[ One API 网关 ]
    ↓
┌─────────────────────────────────┐
│  OpenAI │ Claude │ 文心 │ 通义  │
│  Gemini │ DeepSeek │ vLLM │ ... │
└─────────────────────────────────┘

🎯 核心功能

功能

说明

🔀 多模型统一接入

一个接口调用所有模型

🔑 API Key 管理

创建、分发、权限控制

💰 额度/计费管理

按 Token 计费，控制用量

⚖️ 负载均衡

多个渠道自动分流

🔄 自动重试/故障转移

某个渠道挂了自动切换

📊 使用统计

查看各渠道调用情况

👥 多用户管理

给不同用户/团队分配 Key 和额度

💡 典型使用场景

场景 1：企业内部 AI 平台

员工 A ──→ ┐
员工 B ──→ ├── One API ──→ OpenAI / Claude / 本地模型
员工 C ──→ ┘

统一管控，避免 Key 泄露，控制各部门用量

场景 2：混合模型路由

简单任务 ──→ 便宜的模型（节省成本）
复杂任务 ──→ GPT-4 / Claude（保证质量）

场景 3：搭配 vLLM 使用

私有模型（vLLM 部署）
        +               ──→ One API 统一管理 ──→ 对外服务
商用 API（OpenAI 等）

🔧 支持的模型/渠道（部分）

类型

支持

国外商用

OpenAI、Claude、Gemini、Cohere

国内商用

文心一言、通义千问、讯飞星火、DeepSeek、智谱 GLM

本地部署

vLLM、Ollama、LocalAI 等

🆚 和 vLLM 的关系

vLLM

One API

定位

推理引擎

API 管理网关

作用

跑模型

管理和分发 API

关系

互补，常配合使用

💬 总结

One API 解决的核心问题是："我有很多模型/渠道，怎么统一管理？"

适合需要同时使用多个 AI 服务、或对内分发 AI 能力的个人开发者和企业团队。

GitHub：songquanpeng/one-api ⭐ 20k+