详细内容或原文请订阅后点击阅览
学校的人工智能系统将一袋芯片误认为是一把枪
“我认为筹码袋不应该被误认为是枪，”这名学生说道，此时八辆警车出现并击倒了他和他的多力多滋。
来源:Malwarebytes Labs 博客肯伍德高中的人工智能 (AI) 检测系统错误地将学生的一袋薯片标记为枪支，引发警方反应。
被错误标记这位 16 岁的年轻人吃完了一袋多力多滋，吃完后把它揉成一团放进口袋里。但学校基于人工智能的枪支检测系统将皱巴巴的箔纸误认为是枪支。
片刻之后，多辆警车抵达现场，警察拔出武器，使原本不该发生的事件急剧升级。
学生回忆：
“警察出现了，就像八辆警车一样，然后他们都拿着枪指着我，谈论要趴在地上。我举起双手，问‘发生了什么事？’他让我跪下来，逮捕了我，给我戴上手铐。”
此类系统扫描图像或视频以了解武器的形状和外观。它们的目的是降低风险，但它们的好坏取决于背后的算法和随后的人类判断。
警司 Myriam Rogers 博士告诉记者：
“该程序基于人工验证，在这种情况下，该程序做了它应该做的事情，即发出警报，并让人类查看以找出当时是否存在令人担忧的原因。”
虽然我们理解需要在校园内采取针对枪支的安全措施，但这个问题本来可以处理得更好。八辆警车赶到现场，加上持枪的警察，对于目睹这一幕的学生来说肯定会产生影响，更何况是他们关注的焦点学生。
正如校长 Kate Smith 所说：
“我们理解这对于被搜查的个人以及目击事件的其他学生来说是多么令人不安。”他们确实会犯错误
我们不仅报告威胁，还删除威胁
网络安全风险绝不能超出标题范围。立即下载 Malwarebytes，让您的设备免受威胁。
今天下载 Malwarebytes