GPT-Load 新增安全功能:可逆脱敏和 Jev 智能护栏

9 小时 55 分钟前
 tbphp

项目地址:GitHub · GPT-Load
官网:gpt-load.com
原贴:🔥 GPT-Load 2.0 发布!轻量易用的自托管 AI 网关

最近给 GPT-Load 加了两项安全相关的功能:请求脱敏和智能护栏。
主要考虑两个场景:
不希望自己本地的敏感资料或用户信息传递给上游,特别是使用中转时的信任问题;
另外就是拼车时,希望对请求内容有一些实际约束,不要因为车友搞些不安全的操作(比如破限),而被官方封号。

请求脱敏

脱敏支持可逆加密和本地还原,可在客户端工具执行前恢复参数中的原值。

平时 Vibe Coding 时,不可避免代码、配置或日志里面的邮箱、内部地址、密钥也会一起发出去。这些内容确实没必要原样交给上游。
现在可以在 GPT-Load 里配置规则,匹配到的内容会先加密再发上游。模型原样返回密文时,GPT-Load 会在交给客户端之前自动还原。
包括聊天回复,以及模型返回的客户端工具调用参数,都可以这样处理。

例如,让 AI 调用客户端工具给指定邮箱发信。模型在工具参数中原样传回加密标记,GPT-Load 还原后,发信工具就能拿到真实邮箱。

使用方式:

  1. 配置:「全局设置 → 请求脱敏」。
  2. 添加多个指定的正则规则。
  3. 处理方式选择「可逆加密」,保存修改即可。
  4. 脱敏功能不会请求模型,也不依赖 Jev 。加密解密都在自部署的 GPT-Load 后端完成。

这里也有个边界:模型本身看不到原值,依赖原文的分析、检索可能受到影响;上游内置工具拿到的也仍然是密文。规则处理的是文本,图片和附件内部不在范围内。

Jev 智能护栏

之前做了 Jev 的自动模型,这次加入了智能护栏功能。
让 Jev 在请求转发前做一次判断:Jev 按规则审核,GPT-Load 根据结果执行拦截或标记告警日志。

使用方式:

  1. 配置:[全局设置 -> 实验性功能 -> 智能护栏]
  2. 配置好 Jev 渠道分组、密钥和模型,并在「全局设置 → 实验性功能 → JEV 公共配置」中选择对应的分组和模型。之前用过自动模型的,可以复用已有配置。
  3. 开启「智能护栏」,添加常用预设或自己的规则,调整命中动作和阈值。
  4. 选择生效的访问密钥,保存修改。(可以只对部分 AccessKey 启用;留空则对全部访问密钥生效。)

两个可选动作:

Jev 智能护栏也可以和脱敏配合:请求先按规则脱敏,再将处理后的文本交给 Jev 审核。

叠甲:智能护栏目前还是实验性功能,会增加判断耗时和调用费用,也可能误判或漏判。需要用户根据场景自行调教提示词规则,也欢迎反馈好用的规则(可能采纳为预设)

欢迎大家体验,遇到脱敏还原问题、护栏误判,或者有好用的规则和使用场景,都可以一起讨论。

444 次点击
所在节点    程序员
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1244886

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX