研究人员提出对基于人工智能的人脸识别引擎的攻击Demo。
近日，Adversa公司研究人员分析发现了攻击面部识别系统的新方法——ADVERSARIAL OCTOPUS。研究发现，基于人工智能的面部识别工具容易受到攻击，可能会造成严重后果。此外，许多面部识别系统都有偏见，可能会产生错误的结果。
攻击细节
研究人员开发了一种针对人工智能驱动的人脸识别系统的攻击方法。只要修改照片，人工智能系统就可以错误地识别为他人。造成这种情况的原因是目前人脸识别算法和应用不足，攻击可用于基于计算机视觉算法的投毒攻击场景和绕过场景。
这种新的攻击可以绕过人脸识别服务API，包括目前最先进的人脸识别算法引擎——PimEyes。其主要特点是它结合了不同的方法来提高效率。
针对PimEyes基于以下方法：
- 为不同的面部识别模型和随机噪声进行训练，以提高可迁移性；
- 计算审计网络各层的对抗变化，并使用随机的面部检测帧；
- 此外，每个像素都有轻微的变化，并使用特殊的函数来平滑对抗噪声。
攻击demo
研究人员提出的攻击方法是黑盒，一次性成功，沉默，可移动，可以绕过人脸识别AI模型和API，包括目前最先进的在线人脸识别搜索引擎PimEye.com。
Adversarial Octopus攻击demo如下所示：
https://www.youtube.com/embed/wzXA8TXfWq0?feature=oembed
谁能利用这些漏洞？
攻击是一种黑客攻击方法，也就是说，对搜索引擎算法没有任何理解，漏洞的使用是可移动的，可以应用于其他使用人脸的人工智能应用程序。攻击者可以修改他们的个人照片害和绕过许多算法。犯罪分子可以窃取个人身份，绕过基于人工智能的生物认证或身份验证系统，使用银行、贸易平台和其他远程认证系统。犯罪分子也可以利用这种攻击将他们的活动隐藏在社交媒体上。
攻击的适用范围是什么？
该攻击的主要特征适用于多种不同的攻击AI包括在线在内的实现API物理设备。此外，攻击还可以调整不同的目标环境。这就是命名Adversarial Octopus的原因。
如何应对这种攻击？
研究人员建议：
- 首先是对抗测试。类似于传统的人工智能系统渗透测试。所有人工智能系统都需要对抗测试。
- 在对抗场景下，通过对抗训练、模型加固、数据清洗等防御手段开发和训练人工智能。
- 检测关键决策应用中人工智能的新威胁，不断跟踪对抗机器学习的最新进展。
更多参见：https://adversa.ai/face-recognition-attack-adversarial-octopus
本文翻译自：https://adversa.ai/face-recognition-attack-adversarial-octopus