V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
JusticeIsHere
V2EX  ›  分享创造

搭建你的 OpenAI 接口服务,支持多种渠道包括 Azure,支持渠道管理、令牌管理、用户管理,开箱即用 & 功能丰富

  •  
  •   JusticeIsHere · 260 天前 · 2853 次点击
    这是一个创建于 260 天前的主题,其中的信息可能已经有所发展或是发生改变。

    概述

    大概一个半月前在 V2EX 分享过一次,当时项目刚刚起步,收到了蛮多关注,这是原帖子: https://v2ex.com/t/934930

    现在经过我这段时间高强度的更新,项目本身更加完善了。

    简单来说,本项目适合两类人群:

    1. 自己想搭建 OpenAI 三方代理对外提供付费服务的。
    2. 自己有多个渠道的多个 key ,想通过一个接口以负载均衡的方式进行使用的,或者说想分享给身边人但是又不想直接给原始密钥的。

    功能

    1. 支持多种 API 访问渠道,欢迎 PR 或提 issue 添加更多渠道:
    2. 支持通过负载均衡的方式访问多个渠道。
    3. 支持 stream 模式,可以通过流式传输实现打字机效果。
    4. 支持多机部署详见此处
    5. 支持令牌管理,设置令牌的过期时间和使用次数。
    6. 支持兑换码管理,支持批量生成和导出兑换码,可使用兑换码为账户进行充值。
    7. 支持通道管理,批量创建通道。
    8. 支持用户分组以及渠道分组,支持为不同分组设置不同的倍率。
    9. 支持渠道设置模型列表
    10. 支持查看额度明细
    11. 支持发布公告,设置充值链接,设置新用户初始额度。
    12. 支持丰富的自定义设置,
      1. 支持自定义系统名称,logo 以及页脚。
      2. 支持自定义首页和关于页面,可以选择使用 HTML & Markdown 代码进行自定义,或者使用一个单独的网页通过 iframe 嵌入。
    13. 支持通过系统访问令牌访问管理 API 。
    14. 支持用户管理,支持多种用户登录注册方式
    15. 未来其他大模型开放 API 后,将第一时间支持,并将其封装成同样的 API 访问方式,目前正在做 Google PaLM 的支持。

    部署

    已打包好 Docker 镜像,一行命令即可部署:执行:docker run -d --restart always -p 3000:3000 -v /home/ubuntu/data/one-api:/data justsong/one-api

    详情请参考项目 README: https://github.com/songquanpeng/one-api

    这里不再赘述。

    演示

    在线演示: https://openai.justsong.cn

    送五个充值码让大家简单体验一下:

    48f530140cda44fd8e6638296b5b6cbb
    0a8fa891290c4e5ba119c469723ea668
    52af0695057949aa984ed4d0fed39f32
    71950963b2bf4c80bb0f679e8164999e
    d13db8d277d24e7a8fd0bfed595d7a29
    

    截图展示: One API 渠道管理 One API 令牌管理 One API 额度明细

    其他

    项目地址: https://github.com/songquanpeng/one-api

    期待大家的试用反馈!

    11 条回复    2023-06-15 09:44:43 +08:00
    kaiseryang
        1
    kaiseryang  
       260 天前   ❤️ 1
    支持一下,界面设计的不错
    JusticeIsHere
        2
    JusticeIsHere  
    OP
       260 天前
    @kaiseryang 感谢支持~
    huhhz
        3
    huhhz  
       260 天前   ❤️ 1
    支持一下,第一次发的时候就在用了,很好用更新的也挺快的
    wangmou
        4
    wangmou  
       259 天前
    azure 的接口是 3.5 还是 4 ?我发现我的订阅可以开这玩意
    JustSong
        5
    JustSong  
       259 天前 via Android
    @wangmou 都支持的
    JusticeIsHere
        6
    JusticeIsHere  
    OP
       259 天前
    @wangmou 上面那个是我用错账号了。3.5 和 4 的接口格式是一样的,部署的时候需要注意名称,One API 相关配置页面有讲。
    moxiaonai
        7
    moxiaonai  
       259 天前 via Android   ❤️ 1
    先 star 了,有时间在看
    wangmou
        8
    wangmou  
       259 天前
    @JusticeIsHere 感谢,等我 plus 到期了试试 Azure
    sirz
        9
    sirz  
       258 天前   ❤️ 1
    已 star
    shinelamla
        10
    shinelamla  
       258 天前
    @wangmou 想问下 Azure 个人怎么申请?
    wangmou
        11
    wangmou  
       257 天前
    @shinelamla 当年 100 块买的 biz 订阅,每个月 150 刀,用了五六年了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   6048 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 02:25 · PVG 10:25 · LAX 18:25 · JFK 21:25
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.