详细内容或原文请订阅后点击阅览
什么是“FlyTrap”方法，它如何禁用自主人工智能无人机？
一位研究作者告诉 Military.com，新研究的动机是成功禁用自主无人机的“高潜在社会影响”。
来源:Military.com加州大学欧文分校的研究人员表示，他们在自主目标跟踪无人机中发现了一个严重的安全漏洞，据称该漏洞对公共安全、边境安全和个人隐私具有深远的影响。
该漏洞是通过他们所描述的“FlyTrap”方法来利用的，该方法采用物理攻击框架，利用基于摄像头的自主目标跟踪技术的缺陷，使无人机能够跟踪选定的目标，而无需人类直接控制。消费者世界中的这些“主动跟踪”或“动态跟踪”模型由人工智能驱动，并被地方和联邦执法部门用来跟踪非法过境点、出于安全目的进行监视或进行其他日常操作。
与这项广泛部署的技术的首次全面安全研究相关的研究由主要作者谢少元（加州大学欧文分校计算机科学研究生研究员）和阿尔弗雷德·陈（加州大学欧文分校计算机科学助理教授）领导，他们都与 Military.com 分享了研究结果。
“我们的研究动机是当今无人机技术中自主目标跟踪功能的高潜在社会影响，例如从执法到边境控制，以及当今人工智能模型中的基本安全问题，”谢告诉 Military.com。
他描述了“对抗性例子”，可以使用人类不易察觉的信号来操纵人工智能模型的决策过程。随着人工智能变得越来越普遍，像捕蝇草这样的防御机制可能会变得更加普遍。
我们通过分析无人机的摄像头如何感知距离以及其 AI 模型如何解释该运动，发现了此漏洞。
Chen 表示，这些自主跟踪器“既具有巨大的潜力，也具有重大的风险”，具体取决于某些个人或机构以及想要利用它的恶意行为者如何使用和采用它们。