事情是这样的,广州的一个买家,买了 8 只大闸蟹,收到后“发现”死了 6 只,于是要求退款。
然而结果却是,死螃蟹的图片与视频,是买家用 AI 伪造的!东窗事发,被拘 8 天。
https://tv.cctv.com/2025/12/06/VIDEgdohZjlEBR068SBLRpFg251206.shtml
(视频中前面的 1 张图片和 1 个视频还比较容易分辨是 AI 制作的,但最后 1 个视频非常逼真,到底是不是 AI 做的呢?)
用什么解决 AI 生成?
水印吗?~闭源模型还好说,开源模型呢?
从信任视频转向信任信息源?~那互联网还剩什么呢?
可以看到,互联网的信任危机,已经迫在眉睫!
但是,「危机」=「危」+「机」!如果能证明 made by human ,而不是 deep faked by AI ,那将是一个亿万级别的市场————区分是否 AI 生成,很重要。
软件看来是没戏了!硬件呢?
一个很简单的例子,硬件钱包,可以将私钥安全存储,在受保护的区域内签名!
即使是现在的手机或电脑芯片中,也都有类似 TrustZone 的区域。存储私钥,拥有只读的 ROM ,并有独立于操作系统的权限。这个机制,天然的可以为拍摄的图片和视频,在硬件内进行签名!
当然,还需要外周的设备配合:通过传感器(摄像机)拍摄的图片或视频,直接传递到安全内存区,然后传到 TrustZone 经过哈希计算与签名。
核心在于,硬件的破解成本很高。私钥存储在硬件中不会丢,这让硬件的签名,成为 made by human 的证据。
问了 AI ,现在可信计算的硬件基础设施,在目前的硬件中已经都存在了,所需的只是生态和需求了。在前面提到的死螃蟹例子中,卖家完全可以要求买家发送硬件签名过的视频,来证明是实际拍摄的照片。还不放心的话,可以让买家发签名过的开箱视频。
另外,我隐隐感觉,这场危机,会神奇地让 AI 与区块链走的更近————区块链天然是关于身份、信任的。
虽然想了这么多,可仍然没看到普通人能有什么机会。你们说呢?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.