什么样的 AI 模特是欺诈假图? 对淘天全平台打击 AI 图片有感

[darkway]

微博上搜了一下淘天治理 AI 图片的 tag,不敢在微博发,清一色的支持打击 AI 生图的通稿+大 V 阵列.

惹不起,在这里吐槽吐槽.

ai 创业风险无穷,昨天是 ai 模特,提效并优化交易链路,科技+时尚.满足多样化需求.

今天就是 AI 假图恶意欺诈消费者,属于黑灰产,侵害商家利益,裂化行业环境.

之前一些创业公司认为这个赛道是 ai 绘图商业化能跑出来 距离落地场景近的方案 还在追求标准化 流程化和更高的准确度 现在叫做 ai 假图.

之前一个很火的赛道 不少创业公司融资去做 ai 模特.

搞不好今天 ai 是聊天,感情陪伴,为用户提供量身定制的 ai 娱乐内容.

明天就是 ai 欺诈人类,冒充人类与人类对话,裂化平台环境,疏松人类关系,破坏人类和平.

但作为 ai 从业者,ai 应用开发者,技术从业者,可能我更倾向于不那么一刀切的方式给 ai 发展制定细规则,慢发展.

比如在 ai 生成的图片上明确标识,图片由 ai 模特生成,并且要求带有 ai 配图的商品必须有明确拍摄的实物图,并且显著标识在第一张,这样 ai 图至少还能为商品的展示多样性提供一些方式,而且用户可以清晰的和实物图去比较.

或者实物图,ai 概念图分开展示,实物图展示本来样子,ai 图做创意营销,就像售楼处卖房子的渲染图.

有认真做技术方案的公司 真实性和实拍差不多,是希望用 ai 简化商家的流程,降本增效,同时用技术保持准确度.

但一些不专业的人士,生成不准确,不对应的货不对板的图片,但一刀切下来都没了.

直接一刀砍死 AI 图是欺诈黑产假图,那谁会去再发展和使用 ai 生图,现在越来越多的平台都开始“整治”ai 图,

我觉得 ai 图在国内基本上是没发展空间和希望的.

就比如如果你用 ai 图 ai 文字投一些平台文章,文章直接没流量.

从管理上是好的,确实要治理 ai 内容,但这样一刀切就是只要用 ai,哪怕是希望用 ai 做优质内容的开发者,也没希望. 还是回到手写上.

或许以后 ai 就成了互联网添加剂,大家都要证明,自己是无添加 ai. 好像内容被打上了由 ai 创作,就是造假了一样.

[czipper]

如果 AI 生图发展到无法分辨与真实图像的区别了呢，估计也很快了

[yiqiao]

@czipper 现在就有了，AI 生成美女图片批量去小红书做矩阵然后养号，粉丝数达到一定量直接卖。

[darkway]

@czipper 是的,“AI 可能没有价值判断，但 AI 的使用者必须有判断、平台必须具有价值取向。”淘宝方面强调，AI 的发展和使用应该提高消费体验、促进原创、保护合法商家权益，而不是成为黑灰产违规获利的工具。“跨平台盗图、山寨抄款、过度美颜等问题严峻，仅靠一个平台无法根治。我们也向全行业发出倡议：规范使用 AI 生成图片，保障商品信息真实，一起加入对 AI 假图的全面治理，让行业回归品质竞争。”
近日，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，从源头治理 AI 作假。“淘宝治理 AI 假图开了个好头。但推动 AI 向善，需要全社会一起努力，只有将创新约束在真实、诚信的轨道上，才能真正实现可持续发展。”一位 AI 研究人士表示。
是不是标识了是 ai 图就能用呢.

[okakuyang]

ai 毕竟是生成的，假的就是假的，在购物平台上有先天劣势的。在别的领域还有作为。

[darkway]

@okakuyang 确实,ai 图片本质就是假的,再真他也是合成的,之前看到 ai 图片进军网购领域做商品图这些创业公司,我就觉得这个赛道其实挺奇怪的.

[gogocome]

一边推 ai 一边抵制 ai,淘宝就是喜欢逆流而行.

[kneo]

淘宝难得干件好事。

[felixlong]

@okakuyang 其实没有 AI ，那些广告也都是假的啊。比如啤酒的广告就都是用食用油拍的。

[VitoD]

买东西还是要看实拍图的。

[foolishcrab]

@felixlong 你说的是广告图 淘宝更多的是商品图

[Ffffanwu]

在 twitter 使用 ai 制成的头像会封号，网站规则

[felixlong]

@foolishcrab 你去看看那些有品牌的产品，哪个不是以拍广告的手法拍的图片？实物图只是这些小商家没钱拍而已。AI 给了这些小商家一个平权的机会。

[foolishcrab]

@felixlong 6 你买东西爱看广告大片是吧？ ai 重灾区在哪块？服装类爱看 ai 图是吧？别啥都平权平权，扯什么大旗在这

[mightybruce]

点进来，以为有什么技术分享，结果什么都没有， 真会取标题。

[darkway]

@mightybruce 想讨论一下,去仔细研究了一下,确实目前看到的淘宝天猫做的也仅仅是,要求上游 ai 图片必须标注 ai 生成的水印.

但是回到沙发的观点,如果图片真的无法靠肉眼辨别,淘宝天猫会怎么去判断,让拍摄者提交 exif 信息

[darkway]

@felixlong 这个确实,通过拍摄技巧确实可以让商品更加令人有购买欲,比如苹果产品的图片都令人赏心悦目

[mightybruce]

你不是搞 AI 的应该不了解这方面的检测， 肉眼是远远不如 AI 去做检测的， 这几年这方面论文和代码已经不少了，大公司早就有这方面的 AI detection 模型训练。多数 AI 生成图像用的是 diffusion 扩散模型而不是 transformer 模型，其生成方式是随机的点在一轮一轮生成中迭代，和现实的图像是有不同的，给一个 github 项目和论文
https://github.com/zhendongwang6/dire
https://arxiv.org/abs/2303.09295

至于水印和隐水印，对于一些用开源软件比如 stable diffusion webui 生成图片是无效的。