有朋友的公司有 UGC 业务的吗？审核这么做的呢？

[as9567585]

主要都文字、图片。 用的有第三方的机审产品吗？

比如阿里云的“内容安全”，腾讯云的“天御 内容安全”。效果怎么样呢？

还会做人工审核吗？

前两天还看到《面包多》因为用户发布违规的东西被封了。

[momoca]

比如阿里云的“内容安全”，腾讯云的“天御 内容安全”。效果怎么样呢？

阿里云 /腾讯云 /百度云 都用过.微信也有自己的内容审核文字审核.

审核分 文字 /图片 /视频 有阈值 那效果肯定是刚刚的(调高了基本都不合格).

再有机器审核后肯定要人工审核的.

[yuzo555]

机器审核加人工，机器审核的力度可以调低点，但也要结合你们人工审核的工作量以及用户的接受度来调整。

机器审核可以过滤掉一些关键词内容和明显的违规图片，剩下的交给人工。

肯定得有人工，不能完全机器，毕竟汉语这门语言以及朝廷的避讳这二者都挺博大精深的。

[tanranran]

三方+人工，都得做

[Jirajine]

@yuzo555 你从哪里招能识别各种隐晦乳化代指梗的人工审核。

[rsy]

@Jirajine 有专业的内容审核外包公司，有些是官方御用的

[george550596]

作为干这行的，优先推荐数美 /网易易盾，阿里和腾讯天御也用过，这 4 个产品单纯从基建看个人觉得数美和易盾做得更好，对应的词库和模型适用性更广，听同行的朋友说阿里在电商方面内容安全是不错的，但其他方面不一定算好，天御个人感觉没啥特色，主要是腾讯系的公司在用，第三方机审的效果还是要试用后才能看出来，不同性质的平台，对机审模型的需求还是有些区别的，新闻资讯类、社交社区类、电商类等等不同的产品，在审核需求上也会有不同；
人工肯定也是要用的，如果内容量级不大的话，人工成本可能更低；
另外，很多公司会混用第多个三方的机审+人工辅助，整体效果也更好一些；
如果想节约成本做审核的话，在没有任何资源的情况下，先借用第三方机审的判断能力搞一套自身的词库，把敏感词过滤系统做起来，效果也不错。