第250323期 - one

23.7k star,超强的开源大模型API管理平台

假如你是一个程序员,你需要管理和分发多种LLM(大语言模型)API的访问权限,并希望简化API的适配和集成,同时保证高效的密钥管理。面对这些需求,怎么办?这时,你可以试试One API,一个专为程序员设计的API管理与分发系统。

简介

One API 是一款功能强大的 LLM API 管理与分发系统,它统一适配主流大语言模型API,包括 OpenAI、Azure OpenAI、Anthropic Claude、Google Gemini 等多个服务商,帮助开发者轻松实现多API的统一管理与访问。它通过单可执行文件或 Docker 镜像进行部署,开箱即用,同时提供友好的用户界面,简单易用。

功能特点

  1. 支持多种大模型

    • 集成 OpenAI ChatGPT 系列、Anthropic Claude 系列、Google Gemini、百度文心一言、讯飞星火、腾讯混元等多个模型。
    • 支持火山引擎、360 智脑等国内外主流服务商。
  2. 统一API访问

    • 使用标准化的 OpenAI API 格式,简化不同服务商API的适配工作。
    • 提供负载均衡功能,优化多渠道访问体验。
  3. 密钥与令牌管理

    • 支持API密钥的有效期、额度限制、IP范围限制及模型访问权限设置。
    • 提供兑换码功能,可批量生成和导出,实现账户充值管理。
  4. 多用户分组与权限管理

    • 支持用户分组、渠道分组及不同倍率设置。
    • 支持查看使用明细、发布公告和设置新用户初始额度。
  5. 多部署选项

    • 支持单机部署、多机协作部署,轻松实现高并发场景需求。
    • 支持 Docker 和 Docker Compose 的快速部署,或通过源代码手动编译部署。
  6. 额外功能扩展

    • 支持流式传输(stream 模式)、绘图接口、自定义系统外观及首页内容。
    • 提供支持第三方代理服务以及 Cloudflare AI Gateway 的集成。

如何开始

  1. 部署系统

    • 使用 Docker 命令快速安装:docker run --name one-api -d --restart always -p 3000:3000 justsong/one-api
    • 详细安装配置可参考官方教程,包括支持 MySQL 数据库和多机部署的高级设置。
  2. 初始化配置

    • 系统初始账号为 root,默认密码为 123456,建议首次登录后立即修改密码。
    • 登录系统后,添加 API Key 并生成访问令牌,便可开始使用。
  3. 集成到项目

适用场景

无论是个人开发者还是团队用户,One API 都可以帮助你简化大模型的管理流程,提升效率,降低成本。如果你希望高效管理多个服务商的API,同时确保安全性和可扩展性,One API 将是你的理想选择。