Flock 的防守者缺少什么

这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事,请在此处注册。 Flock 是一家警察科技巨头,因其在美国拥有约 12 万个自动车牌阅读器网络而闻名,该公司上周四宣布对其平台进行一些更改。这些更新旨在防止......

来源:MIT Technology Review _人工智能

这包括跟踪。 《华盛顿邮报》最近发现了 50 起案件,其中警察滥用 Flock 及其竞争对手的系统,经常跟踪和骚扰女性。威斯康星州的一名妇女声称,她的警官前男友搜查了她的汽车 179 次。另一名妇女被警察局长跟踪,却没有人可以向他举报。

Flock 采取了一些措施来应对,旨在确保警察每次搜查都有正当理由,例如使用软件标记异常搜查并要求搜查者输入刑事案件编号。

不过,这些变化也存在很大的漏洞。例如,官员可以输入虚假的案件编号,就像他们撒谎以绕过其他 Flock 保障措施一样。这些政策也没有解决公民自由和隐私团体更广泛的担忧,即 Flock 正在将作为制止犯罪工具出售的工具转变为大规模监控网络。这些批评引起了越来越大的强烈反对,一些城市已经取消了合同,一些州试图通过法律来限制或完全禁止车牌读取器。

在这一切之中,最近出现了一些为 Flock 辩护的争论:如果这些摄像机有助于破案,那有什么大不了的?天气好的时候,他们可能会帮忙抓绑匪,如果没有,他们只是拍我的车的照片,没人会费心看。

抛开 Flock 的系统实际上在多大程度上解决或预防犯罪这一悬而未决的问题,这一切都跳过了一个更重要的问题:Flock 选择构建什么样的打击犯罪系统?它的网络之所以如此运作,是因为一系列关于收集哪些信息、谁可以搜索信息、保留信息多长时间以及分享信息的范围的决策。这些决定设定了安全与公民自由之间的讨价还价条件。相信技术应该在解决犯罪方面发挥作用并不意味着盲目接受交易条款。