谷歌 DeepMind 最新研究：对抗性攻击对人类也有效，人类和 AI 都会把花瓶认成猫

图片地址：https://img.ithome.com/newsuploadfiles/2024/1/4a125fa9-2291-468c-87dc-9bf923df47b6.png?x-bce-process=image/format,f_auto

神经网络由于自身的特点而容易受到对抗性攻击，然而，谷歌 DeepMind 的最新研究表明，我们人类的判断也会受到这种对抗性扰动的影响。人类的神经网络（大脑）和人工神经网络（ANN）的关系是什么？有位老师曾经这样比喻：就像是老鼠和米老鼠的关系。现实中的神经网络功能强大，但与人类的感知、学习和理解方式完全不同。比如 ANN 表现出人类感知中通常没有的脆弱性，它们容易受到对抗性扰动的影响。一个图像，可能只需修改几个像素点的值，或者添加一些噪声数据，从人类的角度，观察不到区别，而对于图像分类网络，就会识别成完全无关的类别。不过，谷歌 DeepMind 的最新研究表明，我们之前的这种看法可能是错误的！即使是数字图像的细微变化也会影响人类的感知。换句话说，人类的判断也会受到这种对抗性扰动的影响。论文地址：https://www.nature.com/ articles / s41467-023-40499-0谷歌 DeepMind 的这篇文