人工智能 (AI) 系统为执法领域的用户提供了一个独特的问题。一方面,AI 系统提供了优化和加快工作流程的机会,尤其是在数据不断增长的环境中。另一方面,如果不加以控制,AI 系统可能会对执法部门服务的社区产生负面影响。本研究重点关注执法部门目前使用的三种 AI 系统:面部识别、预测风险评估和预测警务。通过研究这三种类型的 AI 系统,本研究试图评估该技术的有效性,同时保持公众所期望的隐私、公平、透明和问责制。这三个案例研究表明,AI 系统如何对通过 AI 系统识别的个人产生负面影响,以及需要进一步研究有效措施来规范该技术。此外,欧盟目前正在制定负责任地实施 AI 系统的潜在框架,为美国未来的努力提供模板。
主要关键词