背景人工智能在安全和司法领域的应用有可能促进警察和司法当局的工作,并加强司法系统的安全和运作。它们可以说可以改善嫌疑人和受害者识别、预防犯罪和风险评估。然而,将人工智能用于执法和司法目的可能会产生不利影响,损害基本权利,例如不歧视权、保护个人数据和私人生活的权利、言论自由权和公平审判权。面部识别技术、预测警务工具和评估某人再次犯罪风险的工具尤其令人担忧,因为它们有重现偏见和实施歧视的风险。人工智能应用也存在安全风险,因为它们既可以成为网络攻击的载体,也可以成为目标,并且可能被犯罪分子滥用于恶意目的。