V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
realpg
0.01D
V2EX  ›  程序员

2025 年某个项目的内容安全年报

  •  
  •   realpg ·
    PRO
    ·
    realpg · 5 小时 4 分钟前 · 1495 次点击
    公司运营一个比较热门的小众社区 直观规模是: 静态资源 CDN 每月 35 亿次 HTTPS 请求数

    所有用户为强实名, 初期允许微信登陆或者手机号登陆, 纯微信登陆到一定门槛要求验证手机.

    该社区允许用户自己发布帖子

    该社区允许用户上传图片, 包含: 自己的头像, 随发布内容附图

    上传图片直传阿里云 OSS, 调用阿里云的安全引擎扫描用户上传的图片

    系统不允许上传文章截长图, 识别到图片内文字超过一定量, 直接触发绕过监管账号永封

    上传文字系统接入一个自有的非常小的模型分析大致语义, 进行提炼, 对内容安全进行初步预警, 预警内容推送审核员工作台进行人工审核, 以便内容安全合规

    2025 年全年, 共计发生文字性内容预警 29 次, 均为涉政, 其中 24 次为正常讨论涉及国家或者地方政策, 包含抱怨, 不属于恶意, 予以通过. 其中 5 次予以删除.

    2025 年全年, 共计发生上传图片直接阿里云风险预警强制删除 379xxx 次, 其中 201XXX 次为涉黄, 1XXX 次为涉血腥暴力, 其余为涉政.

    2025 年上半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 7x 次

    2025 年下半年, 共计发生图片上传时阿里云未预警内容违法违规, 经过至少 14 天后, cdn 侧频繁访问复审报图片违法 19xx 次

    复审图片违法 100%为 政治人物隐喻

    出现这类违法, 账号一律永封, 且公司一律报网警.


    数据表明, 2025 年下半年以后, 天天有人创造出新的涉政梗图并刻意大肆传播, 即使没人关注(小众社区, 连黄图都没人发没人看, 很多扫描涉黄的只是单纯的一些梗图而不是刻意分享黄图). 严重怀疑 ai 生成技术泛滥导致的可以很容易创造新的梗图, 代表就是各种维尼熊
    16 条回复    2026-02-10 15:17:55 +08:00
    MindMindMax
        1
    MindMindMax  
       4 小时 58 分钟前
    有点意思。感谢分享
    kandaakihito
        2
    kandaakihito  
       4 小时 39 分钟前
    “出现这类违法, 账号一律永封, 且公司一律报网警.”

    有点恐怖。。。看来我应该已经上名单了
    jydeng
        3
    jydeng  
       4 小时 36 分钟前
    有意思的数据,社区真的不好做。
    wanmyome
        4
    wanmyome  
       4 小时 25 分钟前
    你的头像是我最曾经用过很多年的头像
    realpg
        5
    realpg  
    OP
    PRO
       4 小时 23 分钟前   ❤️ 1
    @jydeng #3
    其实挺好做了, 合规做好以后, 就可以逐渐精简人力, 小众社区, 谈论的东西都是专业性的, 你乱发东西圈子内的朋友是真的直接举报的. 最后稳定后在职信息安全员岗就一个人, 同时是全职分区管理. 另有三个社区管理员, 两个为爱发电, 一个是小金额兼职.

    此项目是有收入的, 允许稍微有钱的会员充点赞助, 还有一些相关周边专业品牌方在这边卖东西, 在社区卖东西比外面门店便宜, 因为实物比较贵销量小, 门店利润很高才能保证不倒闭, 走网络渠道是有提成的. 相当于除了不能挑品相, 比线下便宜还有返点

    会员充值赞助(在线小道具和附件特权)能解决运营成本的 20%, 剩下靠销售提成补还略有盈利. 老板是爱好者, 只要求不亏钱, 不要求一分钱盈利.


    因为我有能力搞云规划, 运行起来, 公有云服务器上的成本已经被极端压缩到很离谱的水平了 阿里看着都想哭那种...
    也就 cdn 是刚性费用, oss 上的附件到一定周期都会转移到 25T onedrive 里去进行永久保存, 大文件一律 telegram 当网盘存储
    wgbx
        6
    wgbx  
       3 小时 54 分钟前
    最后一句太有乐子了
    gogo_tutu
        7
    gogo_tutu  
       3 小时 50 分钟前 via iPhone
    文件转 25T onedrive 或是 telgram 都不太稳定吧?这些服务很容易被官方封停
    Gilfoyle26
        8
    Gilfoyle26  
       3 小时 26 分钟前
    这个社区一定很赚钱吧,不然这么折腾我看着都累
    realpg
        9
    realpg  
    OP
    PRO
       2 小时 20 分钟前
    @gogo_tutu #7
    不会的, onedrive 的主体是真实公司使用的 文件增加到一定门槛后 被后台审计过一次 迟迟不续订 E5, 审核日期也变了 这次审计通过了以后 随便传多大都不管了 一直续期

    telegram 就更无敌了, 随便传


    @Gilfoyle26 #8
    你就没有点自己的爱好吗?什么都得赚钱
    xFrank
        10
    xFrank  
       1 小时 48 分钟前
    纯好奇:维尼熊动画片里面截取的图片,没有配任何文字,没有其他上下文,会违规么
    realpg
        11
    realpg  
    OP
    PRO
       1 小时 46 分钟前
    @xFrank #10
    不会 反正阿里那一套真的很牛逼

    阿里不报违规我都看不出啥意思..

    都很隐晦...
    littiefish
        12
    littiefish  
       1 小时 30 分钟前 via iPhone
    嗯,课堂可以学政治,但不能讨论政治。这很 xx
    littiefish
        13
    littiefish  
       1 小时 29 分钟前 via iPhone
    @realpg 阿里懂的真多,知道这多多也算违法吧?
    mytsing520
        14
    mytsing520  
    PRO
       1 小时 26 分钟前
    @littiefish
    阿里的清单也来自官方,大厂都有这方面业务
    tomatocici2333
        15
    tomatocici2333  
       1 小时 22 分钟前
    维尼熊背大锅
    zaneZhang
        16
    zaneZhang  
       50 分钟前
    @realpg 报违规会说违规原因吗?比如维尼熊
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   4402 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 08:08 · PVG 16:08 · LAX 00:08 · JFK 03:08
    ♥ Do have faith in what you're doing.