针对人工智能（AI）算法进行网络攻击的新闻不再罕见，现在几乎每天都在发生。研究人员发现，无论在实验室环境中还是在实践中，算法都非常脆弱。在许多头条新闻中，我们已经看到面部识别系统可能会被特殊的眼镜和黑客操纵的医疗应用所欺骗，例如AI癌症诊断系统。人工智能的发展，新的神经网络的组成以及新的神经科学模型的出现，都表明我们正在接近AI算法可以复制大脑功能的现实。尽管这些技术远非完美，但AI与人脑之间有许多惊人的相似之处，尤其是在图像处理技术方面。最近，科学家发现，黑客不仅可以对神经网络发起对抗性攻击，而且还可以对人类发起类似的攻击。通过一些操作，他们成功地修改了狗的形象，使人们错误地认为它是猫。然后，科学家改变了蛇的形象，使其看起来像蜘蛛，反之亦然。这项研究引起了我的注意，因为它提供了一个很好的例子，我们可以将其投入实践，以检查在各种情况下欺骗的可能性。这促使我进行了一项实验，以调查人们对这些照片的反应，尤其是那些患有恐惧症的人的反应。喜欢蛇（也非常害怕蜘蛛）的人在看到蜘蛛变成蛇的场景时会感到不自在。但是，当他们意识到照片中的对象确实是蜘蛛时，他们的焦虑变成了恐惧。这些实验表明，这种对抗攻击可以在潜意识中发挥作用。换句话说，某人没有意识到图片出了什么问题，就像算法无法识别攻击一样。因此，在对抗性攻击和网络安全方面，我们必须考虑到，即使是人眼，这种复杂的器官和长期演进的产物，也无法抵抗这种攻击。在这种意义上，很容易看出，可以将对感官的攻击与对算法的攻击进行比较。尽管神经语言编程（NLP）尚未得到科学证明，但对语言或其他感觉器官的对抗性攻击可能与此领域相关。实际上，对AI的隐私攻击可以看作是Veritaserum或催眠。让我们研究以下AI欺骗人脑的示例：可以通过大量图像数据集来训练深度学习模型，从而学习识别一个人的信任程度。使用AI的对抗攻击可以产生最“可靠”的攻击。拍摄任何人的照片，并提高观众的信任度。我们需要做的就是更改照片，以便激发信任感。它可以用于广告。由于照片的快速调整，您将更有可能吸引客户！现在，让我们看一下音频信息和语音感知的过程。当我们听到一个单词而没有上下文就无法解释其含义时，我们经常会在脑海中产生一些猜测。当我们听到句子的结尾时，我们的大脑会修正信息并推断出单词的最终含义。这种机制类似于递归神经网络中基于注意力的模型。在我们解密信息之前，所有没有上下文的含义都将在某种程度上被下意识地处理，它们会对我们的思维产生轻微的影响。如果人脑能够识别由多义词组成的句子的不同可能含义，那么人们会无意间收到平行甚至矛盾的命令。庞大的数据集可以自动执行此过程，并创建具有隐藏双重含义的文本。让我举另一个例子-隐私攻击是试图暴露一个人的隐藏信息。在交流中，人们倾向于使用面部表情，身体姿势，手势和眼睛来推断含义。肢体语言通常可以公开或暗中透露说话者的精神状态，情感和感觉。实际上，有许多类似的隐藏数据泄漏通道，例如体温，瞳孔大小，辐射水平或人呼吸的化学成分。如果某人构建了可以捕获所有这些隐藏通道的精确设备，那么他们就可以理解人类对外部刺激（例如图像和挑衅性问题）的反应。这类似于神经网络上的隐私攻击，其中攻击者测试不同的输入数据以访问信息。例如我提到的例子，对人类的潜意识攻击通常令人恐惧。最糟糕的是，它们并非凭空想象的，可以随时实施。如果将来我们可以戴上特殊的眼镜或助听器来保护自己免受音频或视频网络攻击，我不会感到惊讶。但在那之前，这对我们非常重要