ai 绘画小程序有必要检测敏感词，防止出涩图吗？

[pengxiying]

最近写了个 ai 绘画小程序，有一些 sd 模型可以出涩图，我该如何检测呢？之前用了一个敏感词检测 API ，但是这 API 太“敏感”了，比如中国，鸡这样的字眼都会报存在敏感词。 或者是说只需在反向提示词那里做限制就可以了？

[estk]

百度 AI 的敏感词和图片审核水平还不错，可能是经过了贴吧的摧残而提高的

[chenjia404]

肯定要啊，不然出现黄图，轻则喝茶，重则进去。

[systemcall]

建议直接买个大厂的检测服务
没什么大范围传播的话，出黄图一般也不会进去多久，但是要是出现了小熊维尼的图的话，搞不好直接蒸发了

[whileFalse]

直接检测生成的图

[IDAEngine]

直接检测 prompt ，屏蔽掉所有敏感字，只允许输入中文绘画

[letitbesqzr]

很多云厂家都有图片鉴黄服务，把生成好的图片先给这些服务过一遍，没问题再展示。

[panxi]

兄弟，这么跟你说吧，出了敏感问题跟阿里腾讯华为这样的公司还能谈，罚酒三杯了事。对你， 对接的就是国家暴力机器