针对神经网络的单像素攻方法

[des]

总觉得会有这么个东西，现在终于看到了 也就是说即使只有一个像素，对于整个结果也可能有巨大影响，因为神经网络"理解"的和人类完全不一样

链接: https://github.com/Hyperparticle/one-pixel-attack-keras

[siyemiaokube]

这个出了有一段时间了吧。。本来数据集里就没有这种奇怪的噪点，识别不出来也很正常。

如果希望能识别这种数据也很容易啊

[takato]

我觉得和人类完全一样。

你碰到过一个极致的坏人，之后就不会再相信很多好人。

[des]

@siyemiaokube 但是投入使用的话，不可能没有随机噪点

[picasso250]

首先,这是用神经网络对抗神经网络.

其次, 神经网络的训练过程就是让这个网络对最终的结果非常确认,要么 1,要么 0, 不存在模糊逻辑. 因此才有了这个"漏洞".

再再次, 如果真的投入使用, 我们是可以不断用新的数据(包括那些恶意构造的)来重新训练的.