项目地址:GitHub · GPT-Load
官网:gpt-load.com
原贴:🔥 GPT-Load 2.0 发布!轻量易用的自托管 AI 网关
最近给 GPT-Load 加了两项安全相关的功能:请求脱敏和智能护栏。
主要考虑两个场景:
不希望自己本地的敏感资料或用户信息传递给上游,特别是使用中转时的信任问题;
另外就是拼车时,希望对请求内容有一些实际约束,不要因为车友搞些不安全的操作(比如破限),而被官方封号。
脱敏支持可逆加密和本地还原,可在客户端工具执行前恢复参数中的原值。
平时 Vibe Coding 时,不可避免代码、配置或日志里面的邮箱、内部地址、密钥也会一起发出去。这些内容确实没必要原样交给上游。
现在可以在 GPT-Load 里配置规则,匹配到的内容会先加密再发上游。模型原样返回密文时,GPT-Load 会在交给客户端之前自动还原。
包括聊天回复,以及模型返回的客户端工具调用参数,都可以这样处理。
例如,让 AI 调用客户端工具给指定邮箱发信。模型在工具参数中原样传回加密标记,GPT-Load 还原后,发信工具就能拿到真实邮箱。
使用方式:
这里也有个边界:模型本身看不到原值,依赖原文的分析、检索可能受到影响;上游内置工具拿到的也仍然是密文。规则处理的是文本,图片和附件内部不在范围内。
之前做了 Jev 的自动模型,这次加入了智能护栏功能。
让 Jev 在请求转发前做一次判断:Jev 按规则审核,GPT-Load 根据结果执行拦截或标记告警日志。
使用方式:
两个可选动作:
Jev 智能护栏也可以和脱敏配合:请求先按规则脱敏,再将处理后的文本交给 Jev 审核。
叠甲:智能护栏目前还是实验性功能,会增加判断耗时和调用费用,也可能误判或漏判。需要用户根据场景自行调教提示词规则,也欢迎反馈好用的规则(可能采纳为预设)
欢迎大家体验,遇到脱敏还原问题、护栏误判,或者有好用的规则和使用场景,都可以一起讨论。
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.