摘要 — 影响人类生活的决策越来越多地由自动决策算法做出或协助。这些算法中的许多处理个人数据以预测累犯、信用风险分析、使用人脸识别识别个人等。虽然这些算法可能提高效率和效力,但它们本质上并非没有偏见、不透明、缺乏可解释性、恶意等。鉴于这些算法的结果对个人和社会有重大影响,并且在部署后容易受到分析和争论,因此必须在部署前考虑这些问题。正式审计是确保算法符合适当问责标准的一种方式。这项工作基于对文献的广泛分析和专家焦点小组研究,提出了一个统一的系统问责基准框架,用于对基于人工智能的决策辅助系统进行正式审计。本研究还提出了系统卡作为呈现此类审计结果的记分卡。它由 56 项标准组成,组织在一个四乘四矩阵中,行侧重于 (i) 数据、(ii) 模型、(iii) 代码、(iv) 系统,列侧重于 (a) 开发、(b) 评估、(c) 缓解和 (d) 保证。提出的系统问责基准反映了问责系统的最新发展,可作为算法审计的清单,并为未来研究的后续工作铺平道路。索引词 — 算法问责、自动决策系统、人工智能、系统卡
机器学习技术正在改变法律体系的运作方式,刑事司法将是发生最根本变化的领域。鉴于刑事司法体系涉及的基本权利和利益,这也是人工智能 (AI) 不假思索的应用最令人不安的领域,也是对个人权利威胁最大、法治可能遭受意外损害的领域。这些问题将(并且正在)在整个刑事司法体系中发生:从刑事调查过程中数据驱动的预测警务系统,到假释申请中的累犯预测和审判后的量刑建议系统。人工智能对刑事司法体系正常运作的风险将因执法和刑事司法体系面临的商业压力、党派政治利益以及司法机构和法律界普遍缺乏技术理解而加剧。尽管这种愿景是反乌托邦的,但我们仍有机会利用人工智能技术来改善犯罪侦查、起诉和判刑犯罪者、帮助揭露歧视、确保整个系统的平等待遇以及识别不公平和不公正的待遇。深思熟虑并适当使用“合乎道德的”人工智能系统可以极大地帮助司法管理和法治。在本文中,我们提出了一个框架,用于系统地将人工智能应用于刑事司法系统,以确保该系统以规范增强、更有效和高效的方式运行。在提出这个框架时,我们努力应对这样一个现实:人类天生就不喜欢计算机做出对人们的生活有重要影响的决策。
庞迪切里大学,印度帕德切里摘要:随着暴力犯罪者(包括儿童性犯罪者)的累犯率令人震惊,对维护脆弱环境的高级安全措施的需求越来越紧迫。学校,育儿中心和其他高风险地区特别容易受到潜在威胁的影响,因此必须实施积极的解决方案,以确保儿童和员工的安全和福祉。在很大程度上依赖安全人员手动监控的传统监视系统正越来越多地证明实时识别和应对威胁的不足。人类的监督通常受到诸如延迟反应和判断错误之类的局限性,留下了关键的安全差距。我们建议的工作提供了一种新颖的视频监视系统,该系统使用DeepFaceNet,这是一种高度优化和模块化的深度学习模型,旨在克服这些困难。由于该技术主要旨在处理监视摄像机的实时视频供稿,因此它可以识别和检测具有犯罪背景的人的面孔,尤其是那些被归类为高风险罪犯的人。通过利用最新的面部识别技术,我们建议的系统提供了强大而全面的威胁检测解决方案。随着公共安全的改善,它还可以抑制犯罪行为,这有助于避免这种事件。该系统通过强调高精度,实时处理和可靠性来解决并确保安全和监视领域的更安全环境。索引术语:面部识别,深度学习,深度,监视,安全性。
人工智能 (AI) 系统现在影响着人们生活各个方面的决策,从他们阅读的新闻文章到他们是否获得贷款。虽然使用人工智能可能会在做出这些重要决策时提高准确性和效率,但最近的新闻和研究报告表明,人工智能模型可能会表现出不公平的行为:从招聘模型中表现出的性别偏见,到累犯预测系统中的种族偏见。本论文通过考虑在创建人工智能系统的整个过程中所做的选择(即建模管道)如何影响公平行为,探索了理解和缓解人工智能公平问题的新方法。首先,我将展示如何通过考虑模型的端到端管道来扩展我们对不公平模型行为的理解。具体来说,我的工作通过展示建模流程某些部分(即学习规则)的不稳定性如何导致不公平,因为重要决策依赖于任意的建模选择,从而引入了人工智能系统稳定性与公平性之间的联系。其次,我将讨论如何考虑机器学习流程可以帮助我们扩展偏见缓解技术工具箱。在一个案例研究中,研究税务审计实践中与收入相关的公平性,我将展示在人工智能创建流程中进行的干预措施(即使这些干预措施表面上与公平性无关)不仅可以有效地提高公平性,而且通常可以减少预测效用和公平性之间的权衡。最后,我将概述人工智能建模流程为从业者在创建模型时提供的灵活性带来的好处和危险,包括讨论这种灵活性的法律影响,我称之为模型多样性。
Tyler, T.、Lawrence S.、Heather S.、Barnes, G. 和 Woods, D. (2007)《重返社会羞辱、程序正义和累犯:堪培拉 RISE 酒后驾驶实验中罪犯心理机制的参与》,《法律与社会评论》41(3),第 553-585 页,https://openresearch-repository.anu.edu.au/items/f85fbf6e-3aa5-48df-9dda-e33384498e92,2024 年 8 月访问。Strang, H、Sherman, L、Woods, D. 和 Barnes, G. (2011) 恢复性警务实验:堪培拉重返社会羞辱实验的最终报告。堪培拉:监管机构网络 https://webarchive.nla.gov.au/awa/20140212001916/http://www.aic.gov.au/criminal_justice_system/rjustice /rise/final.html,2024 年 8 月访问。 13 Strang, H. (2017)“恢复性司法实验”,载于 Drahos, P.《监管理论:基础与应用》(第 28 章,尤其请参见第 493-94 页)。https://press-files.anu.edu.au/downloads/press/n2304/pdf/ch28.pdf,2024 年 8 月访问。 14 随着刑事司法数据资产的发展,将提供有关犯罪和司法的进一步见解,该数据资产结合了来自 8 个州和地区的犯罪者警察记录、刑事法庭和惩教服务系统的数据。 15 值得注意的是,尽管随机试验有助于了解哪些方法有效,但人们经常担心试验是否符合伦理道德——如果我们认为一项政策有效,我们怎么能通过抛硬币来决定谁能得到它呢?然而,我们往往不知道我们的社会政策是否有效——在这方面,我们可以向医学研究界学习,认识到如果我们不通过治疗组进行评估,我们实际上是在未经严格测试的情况下将政策推广到每个人。Leigh A. (2010)《循证政策:召集随机主义者?》,《加强澳大利亚联邦的循证政策:圆桌会议记录》,第 1 卷,第 215-226 页。堪培拉,澳大利亚首都领地:生产力委员会。
Unité-Magistrats 联盟秘书长 Béatrice Brugère 对法律案件的处理时间感到担忧。最后一个例子是 Silhem,他被一名尚未受审的人杀害。她谴责法国司法系统陷入危机。司法系统必须彻底改革。无论对于法国人还是法官来说,这都变得至关重要,甚至不可或缺。如今,法官已不再具有审判的自由。掌印大臣,即最高司法首脑,规定了处理法律案件的时间限制。但随着每个人都能在自家门口看到中午,轻松处理文件已成为一种真正的闲事。司法必须与警察、宪兵、专家、其他司法人员、翻译人员合作。正义只有在采取行动时才存在:调查、辩论、保护、审判、惩罚和制裁或预防。这个时间必须计时,否则程序将失败。去年夏天,一份报告指出,司法程序严重落后于进度,原因如下:错误的法庭判决或错误的政治选择。这意味着欧洲人权法院对未能遵守期限的谴责!如何告诉犯罪受害者,由于行政拖延过长、法律难以忍受,寻求正义的时间很长……令人担忧甚至恐惧的是,这种拖延的常规正在形成,并成为一种常态。我们必须战斗,以便正义能够正常发挥作用。如今,法律对于累犯的处罚与初犯一样严厉,Béatrice Brugère 说道。年轻的 Sihem 被谋杀是司法不再正常运作的完美例子(调查的每个阶段都拖延太久)。他的谋杀嫌疑人是一名多名平民,此前已在巡回审判中被判刑,但在刑期结束前被释放。他因谋杀这名年轻女孩而再次成为媒体关注的焦点。这怎么可能呢?他第一次犯罪是在 2011 年,今年在加尔省审判,因为持械抢劫不算严重案件
计划概述弗雷斯诺县DUI法院是一项针对合格参与者的法院监督,全面的待遇,合作计划。针对弗雷斯诺县进行的研究表明,在醉酒期间驾驶的个人越来越关注。已经提出了该治疗法院的实施,以降低罪犯之间的累犯率并提高我们社区的公共安全。与其他国家模型DUI法院计划类似,该职位裁决计划是为成人设计的,并在团队概念上进行操作,涉及增加监督,强制性药物滥用治疗,个人/团体咨询以及频繁的测试以监控合规性。通过基于证据的最佳治疗和监督实践,参与者将学习如何为自己和家人带来更健康,更安全的生活,同时保持清洁和清醒的生活。目前构成的DUI法院是针对高风险/高需求的单轨治疗模型计划,被指控犯有随后的轻罪DUI犯罪。被告将首先出现在其家庭法院部门,并向他们提供有关该治疗法院的信息。Prima Facie被告将接受DUI法院小组的筛查/评估,以确保他们有资格参加该计划。有兴趣参加的人将被接纳。一旦批准了参与者,将对DUI指控认罪,将判处监禁并留下来,他们将开始监督和治疗计划。成员:拒绝参加该计划的被告将被转回其主场继续诉讼。如果被告后来认罪/无竞赛或被判有罪,则可以将他们转录,如果仍然有资格参加该计划。社区咨询委员会委员会将双年间开会,讨论该计划的状态,就计划政策和协议提出建议,并解决该计划正在遇到的任何问题,这些问题可以解决目标。指导委员会将由每个机构的行政级别人员组成,以促进在执行层面上支持该组织的同时迅速解决问题的过程。
数据分析师位置控制编号:DF1286 FLSA状态:n位置描述在一般监督下,该职位在识别,捕获,管理和分析与拘留和社区更正操作相关的确定数据点方面执行专门的技术工作。与具有从一个或多个系统收集数据领域的特定数据领域的部门人员的协调和合作,因此可以设计和维护主结构,以将收集的数据带到经理进行分析和相关的数据驱动调整对代理机构运营和战略规划的实施。与代理商管理和行政人员中等互动。准备已确定的报告。该机构的副董事之一监督了这一职位。工作进行了30%的数据收集和采矿。通过与其他员工的协作和协调,从多个机构系统中收集和挖掘数据。指导建立标准化协议,以收集和挖掘数据,以提高过程和结果的一致性和效率。30%数据分析。利用收集的数据和信息来识别,跟踪或预测特定的囚犯 /少年 /客户人口统计信息模式,结果(例如,累犯率),人口趋势以及程序化成功或失败指标。验证数据的可靠性和有效性。教育行政人员就数据,趋势和预测与人口信息相关的长期结果和需求进行教育。20%的数据报告。开发并维护标准化和专业的格式,用于报告部门管理的数据。指导该机构年度内部和外部报告的开发。进行了研究,撰写报告,并提供演讲以协助制定代理战略。10%的政策制定和合规性。有助于制定和审查影响机构数据收集,处理,存储,演示和分析的政策和程序。保持对与职位有关的适用机构政策的认识,并确保合规性。10%的特殊项目,分析和研究。根据组织的需求完成其他职责和特殊项目。协助捕获和呈现数据以支持代理赠款申请。将被要求参加与利益相关者的会议,以协助确定特殊项目或赠款计划所需的关键数据点。
David Thompson 是 Farah and Farah 律师事务所的董事会认证民事审判律师,主要处理人身伤害案件,重点关注汽车事故、卡车事故、非正常死亡和一般过失。David 的父母都是军人,他几乎每年都搬家,直到 1995 年在杰克逊维尔定居。他于 2005 年获得北佛罗里达大学文学学士学位,2008 年获得佛罗里达海岸法学院法学博士学位,2010 年获得北佛罗里达大学理学硕士学位。Thompson 先生审理了 89 起案件并作出判决。他的职业生涯始于州检察官办公室第四司法巡回区,处理轻罪案件,后来升职到累犯法庭和凶杀案法庭。2014 年,Thompson 先生开始担任 State Farm 的内部法律顾问,从事民事辩护诉讼。经过 4 年的辩护诉讼,汤普森先生转而担任原告方,继续审理案件。汤普森先生还积极参与社区事务。他目前是杰克逊维尔律师协会理事会成员、杰克逊维尔司法协会执行委员会成员、美国审判律师协会准会员、Inspire to Rise, Inc. 董事会主席、DW Perkins 律师协会成员、杰克逊维尔女律师协会成员、佛罗里达州司法协会董事会成员、犹太社区联盟年度筹款董事会成员、杰克逊维尔领导力 2021 届成员和佛罗里达州律师协会领导力学院第八届成员。David 目前还担任佛罗里达州律师协会民事诉讼规则委员会委员、佛罗里达州律师协会理事会联络员、佛罗里达州律师协会申诉委员会 4D 委员,并担任佛罗里达州律师协会领导力学院委员会主席。在任何空闲时间,汤普森先生都喜欢与家人共度时光、烧烤、看体育比赛、参加美洲虎队比赛和旅行。
计划概述弗雷斯诺县DUI法院是一项针对合格参与者的法院监督,全面的待遇,合作计划。针对弗雷斯诺县进行的研究表明,在醉酒期间驾驶的个人越来越关注。已经提出了该治疗法院的实施,以降低罪犯之间的累犯率并提高我们社区的公共安全。与其他国家模型DUI法院计划类似,该职位裁决计划是为成人设计的,并在团队概念上进行操作,涉及增加监督,强制性药物滥用治疗,个人/团体咨询以及频繁的测试以监控合规性。通过基于证据的最佳治疗和监督实践,参与者将学习如何为自己和家人带来更健康,更安全的生活,同时保持清洁和清醒的生活。DUI Court是一项两条轨道治疗模型计划,主要针对高风险/高需求的被告,被指控犯有随后的轻罪DUI犯罪。被告将首先出现在其家庭法院部门,并向他们提供有关该治疗法院的信息。Prima Facie被告将接受DUI法院小组的筛查/评估,以确保他们有资格参加该计划。有兴趣参加的人将被接纳。一旦批准了参与者,将对DUI指控认罪,将判处监禁并留下来,他们将开始监督和治疗计划。成员:拒绝参加该计划的被告将被转回其主场继续诉讼。如果被告后来认罪/无竞赛或被判有罪,则可能会被转录,以进行重新筛选,如果仍然有资格参加该计划。社区咨询委员会委员会将双年间开会,讨论该计划的状态,就计划政策和协议提出建议,并解决该计划正在遇到的任何问题,这些问题可以解决目标。指导委员会将由每个机构的行政级别人员组成,以促进在执行层面上支持该组织的同时迅速解决问题的过程。