2025 年某个项目的内容安全年报

公司运营一个比较热门的小众社区直观规模是: 静态资源 CDN 每月 35 亿次 HTTPS 请求数

所有用户为强实名, 初期允许微信登陆或者手机号登陆, 纯微信登陆到一定门槛要求验证手机.

该社区允许用户自己发布帖子

该社区允许用户上传图片, 包含: 自己的头像, 随发布内容附图

上传图片直传阿里云 OSS, 调用阿里云的安全引擎扫描用户上传的图片

系统不允许上传文章截长图, 识别到图片内文字超过一定量, 直接触发绕过监管账号永封

上传文字系统接入一个自有的非常小的模型分析大致语义, 进行提炼, 对内容安全进行初步预警, 预警内容推送审核员工作台进行人工审核, 以便内容安全合规

2025 年全年, 共计发生文字性内容预警 29 次, 均为涉政, 其中 24 次为正常讨论涉及国家或者地方政策, 包含抱怨, 不属于恶意, 予以通过. 其中 5 次予以删除.

2025 年全年, 共计发生上传图片直接阿里云风险预警强制删除 379xxx 次, 其中 201XXX 次为涉黄, 1XXX 次为涉血腥暴力, 其余为涉政.

2025 年上半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 7x 次

2025 年下半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 19xx 次

复审图片违法 100%为政治人物隐喻

出现这类违法, 账号一律永封, 且公司一律报网警.

数据表明, 2025 年下半年以后, 天天有人创造出新的涉政梗图并刻意大肆传播, 即使没人关注(小众社区, 连黄图都没人发没人看, 很多扫描涉黄的只是单纯的一些梗图而不是刻意分享黄图). 严重怀疑 ai 生成技术泛滥导致的可以很容易创造新的梗图, 代表就是各种维尼熊

rb6221

2 月 10 日

全年 17w 图片涉政问题，平均到每天就是每天 400 多次？你们这小众论坛的用户构成有点离谱的
只是文字也就算了，关键是图片都这么高强度
我理解如果不是用户本身兴趣很大或者你们监管的问题，要么用户只发纯文字隐喻讨论（比如 NGA 赢区），要么是抱怨、阴阳怪气型居多（如 vv 图）
你这个触发删除应该是特别危险的那一类吧，这都能有每天 400 多次，大开眼界

realpg

2 月 10 日

@404www
能无限多但是只有 25 个 office 正版授权邮箱数量是随便开的包含共享邮箱普通邮箱

这些邮箱对应我公司项目每个项目 1~4 邮箱, 都高强度收发邮件有 api 处理也有对应的实体管理人

我 E5 玩的多这个 E5 触发人工审查的时候我是知道的, 就是我们突然大量传了文件到 one drive, 之后到日子就迟迟不续期, 人工滥用审查了半个月, 然后被判定合规了, 开始继续定期更新了. 再往后怎么突然一次性传 1TB 文件都不会触发审查了

现在我这边 E5 高强度员工在用各种业务邮件还使用 microsoft api 公司开发了不少应用各种系统也都 based on microsoft

因为我们公司在北方, 办公都是联通网, 北方联通对微软新加坡的速度非常快, 不需要梯子, 随便跑 10MB/s 的速度, 用着非常舒服

公司员工各种文档, 还有给客户上下游分享文件也全基于 onedrive

从操作行为分析角度来说我们这是一个非常正规的开发公司