详细内容或原文请订阅后点击阅览
人工智能生物识别失败，祖母被误入狱
一位祖母安吉拉·利普斯 (Angela Lipps) 在自己家中被枪指着被捕，因为面部识别软件将她标记为北达科他州一起银行欺诈案的嫌疑人，而她从未访问过该州。当局依靠人工智能从监控录像中生成的匹配结果，并将这些结果与她的驾驶执照和社交媒体进行比较 [...]
来源:阿姆斯特朗经济学一位祖母安吉拉·利普斯 (Angela Lipps) 在自己家中被枪指着被捕，因为面部识别软件将她标记为北达科他州一起银行欺诈案的嫌疑人，而她从未访问过该州。当局依靠人工智能从监控录像中生成的匹配结果，并将这些结果与她的驾驶执照和社交媒体照片进行比较。这足以发出逮捕令。
她被判入狱数月，被引渡到 1,000 多英里之外，未经有意义的审查就被关押，直到她的律师出示了简单的银行记录，证明她在涉嫌犯罪时身在田纳西州。
案子几乎立刻就不了了之，但那时她已经失去了她的家、她的车，甚至她的狗。当政府开始信任机器而不是基本调查时，就会发生这种情况。
人工智能不是智能。这就是模式识别。它比较图像、识别相似性并产生概率。它不理解上下文、意图或真相。然而，这些可能性现在被视为证据。这就是系统崩溃的地方。一旦机器标记某人，证明无罪的负担就会转移到个人身上，而不是国家证明有罪。
我们之前已经见过这个了。美国各地已经发生多起面部识别系统错误识别个人并导致错误逮捕的案例。在每种情况下，都会出现相同的模式。该软件会生成匹配项，调查人员会围绕它建立一个案例，而不是对其进行质疑。跳过基本验证步骤，因为假设系统是正确的。
问题在于，人们认为人工智能是最高知识的终极目标。每个输出都被视为事实。这就是为什么你最终会因为一个他们没有犯下的罪行而被关进监狱几个月。