研究人员展示了一种攻击人工智能计算机视觉系统的新方法，使其能够控制人工智能“看到”的内容 。研究表明，这种名为 RisingAttacK 的新技术能有效操纵所有最广泛使用的人工智能计算机视觉系统 。RisingAttacK 由一系列操作组成，目标是对图像进行最少的更改，从而允许用户操纵视觉 AI“看到”的内容 。首先，RisingAttacK 识别图像中的所有视觉特征 。该程序还运行一个操作，以确定哪些特征对于实现攻击目标最重要。RisingAttacK 随后计算人工智能系统对数据变化的敏感度，并确定人工智能对关键特征数据变化的敏感度 。研究人员称，“最终结果是，两张图片在人眼看来可能一模一样，我们可能清楚地看到两张图片中都有一辆车。但由于 RisingAttacK，人工智能会在第一张图片中看到一辆车，但在第二张图片中却看不到一辆车” 。研究人员针对四种最常用的视觉人工智能程序：ResNet-50、DenseNet-121、ViTB 和 DEiT-B 对 RisingAttacK 进行了测试 。该技术对所有四种程序都有效 。

github.com/ivmcl/ordered-topk-attack
www.eurekalert.org/news-releases/1089590?language=chinese