机器学习技术正在改变法律体系的运作方式,刑事司法将是发生最根本变化的领域。鉴于刑事司法体系涉及的基本权利和利益,这也是人工智能 (AI) 不假思索的应用最令人不安的领域,也是对个人权利威胁最大、法治可能遭受意外损害的领域。这些问题将(并且正在)在整个刑事司法体系中发生:从刑事调查过程中数据驱动的预测警务系统,到假释申请中的累犯预测和审判后的量刑建议系统。人工智能对刑事司法体系正常运作的风险将因执法和刑事司法体系面临的商业压力、党派政治利益以及司法机构和法律界普遍缺乏技术理解而加剧。尽管这种愿景是反乌托邦的,但我们仍有机会利用人工智能技术来改善犯罪侦查、起诉和判刑犯罪者、帮助揭露歧视、确保整个系统的平等待遇以及识别不公平和不公正的待遇。深思熟虑并适当使用“合乎道德的”人工智能系统可以极大地帮助司法管理和法治。在本文中,我们提出了一个框架,用于系统地将人工智能应用于刑事司法系统,以确保该系统以规范增强、更有效和高效的方式运行。在提出这个框架时,我们努力应对这样一个现实:人类天生就不喜欢计算机做出对人们的生活有重要影响的决策。