第250323期 - one

23.7k star,超强的开源大模型API管理平台
假如你是一个程序员,你需要管理和分发多种LLM(大语言模型)API的访问权限,并希望简化API的适配和集成,同时保证高效的密钥管理。面对这些需求,怎么办?这时,你可以试试One API,一个专为程序员设计的API管理与分发系统。
简介
One API 是一款功能强大的 LLM API 管理与分发系统,它统一适配主流大语言模型API,包括 OpenAI、Azure OpenAI、Anthropic Claude、Google Gemini 等多个服务商,帮助开发者轻松实现多API的统一管理与访问。它通过单可执行文件或 Docker 镜像进行部署,开箱即用,同时提供友好的用户界面,简单易用。
功能特点
-
支持多种大模型:
- 集成 OpenAI ChatGPT 系列、Anthropic Claude 系列、Google Gemini、百度文心一言、讯飞星火、腾讯混元等多个模型。
- 支持火山引擎、360 智脑等国内外主流服务商。
-
统一API访问:
- 使用标准化的 OpenAI API 格式,简化不同服务商API的适配工作。
- 提供负载均衡功能,优化多渠道访问体验。
-
密钥与令牌管理:
- 支持API密钥的有效期、额度限制、IP范围限制及模型访问权限设置。
- 提供兑换码功能,可批量生成和导出,实现账户充值管理。
-
多用户分组与权限管理:
- 支持用户分组、渠道分组及不同倍率设置。
- 支持查看使用明细、发布公告和设置新用户初始额度。
-
多部署选项:
- 支持单机部署、多机协作部署,轻松实现高并发场景需求。
- 支持 Docker 和 Docker Compose 的快速部署,或通过源代码手动编译部署。
-
额外功能扩展:
- 支持流式传输(stream 模式)、绘图接口、自定义系统外观及首页内容。
- 提供支持第三方代理服务以及 Cloudflare AI Gateway 的集成。
如何开始
-
部署系统:
- 使用 Docker 命令快速安装:
docker run --name one-api -d --restart always -p 3000:3000 justsong/one-api
。 - 详细安装配置可参考官方教程,包括支持 MySQL 数据库和多机部署的高级设置。
- 使用 Docker 命令快速安装:
-
初始化配置:
- 系统初始账号为
root
,默认密码为123456
,建议首次登录后立即修改密码。 - 登录系统后,添加 API Key 并生成访问令牌,便可开始使用。
- 系统初始账号为
-
集成到项目:
- 配置 API Base 地址为你的 One API 部署地址(如 https://openai.justsong.cn)。
- 在客户端中使用生成的访问令牌即可调用 API。
适用场景
无论是个人开发者还是团队用户,One API 都可以帮助你简化大模型的管理流程,提升效率,降低成本。如果你希望高效管理多个服务商的API,同时确保安全性和可扩展性,One API 将是你的理想选择。