摘要 人工智能 (AI) 为个人福祉和经济社会进步带来了许多机会,但也带来了各种新的道德、法律、社会和技术挑战。可信人工智能 (TAI) 基于这样的理念:信任是社会、经济和可持续发展的基础,因此,只有在人工智能的开发、部署和使用过程中建立信任,个人、组织和社会才能充分发挥人工智能的潜力。在本文中,我们旨在介绍 TAI 的概念及其五项基本原则 (1) 仁慈、(2) 无恶意、(3) 自主、(4) 正义和 (5) 可解释性。我们进一步利用这五项原则为 TAI 开发一个数据驱动的研究框架,并通过为未来研究勾勒出富有成效的途径来展示其实用性,特别是关于基于分布式账本技术的 TAI 实现。
摘要 人工智能 (AI) 为个人福祉和经济社会进步带来了许多机会,但也带来了各种新的道德、法律、社会和技术挑战。可信人工智能 (TAI) 基于这样的理念:信任是社会、经济和可持续发展的基础,因此,只有在人工智能的开发、部署和使用过程中建立信任,个人、组织和社会才能充分发挥人工智能的潜力。在本文中,我们旨在介绍 TAI 的概念及其五项基本原则 (1) 仁慈、(2) 无恶意、(3) 自主、(4) 正义和 (5) 可解释性。我们进一步利用这五项原则为 TAI 开发一个数据驱动的研究框架,并通过为未来研究勾勒出富有成效的途径来展示其实用性,特别是关于基于分布式账本技术的 TAI 实现。
§ Develop tools, techniques, and procedures to measure human trust of AI/ML algorithms linked with the trustworthiness of the AI/ML system to help inform stakeholders about the levels of trust across the developmental process § Develop methods to reduce data source bias and create modularity § Develop a cybersecurity and risk model to ensure AI/ML algorithms maintain robustness in situations where a given set of sensors用于训练系统的系统不再在系统§中使用,以开发出在完整生命周期期间衡量系统成功的方法
摘要 - 人工智能系统(机器学习)在关键领域(航空电子、自主运动等)的开发和使用不可避免地引发了对所用软件可靠性的质疑。可信计算系统已经存在很长一段时间了。其目的是只允许执行某些应用程序,并保证此类应用程序的运行不受干扰。在这种情况下,信任是对分配的应用程序按测试时的方式运行的信心。但对于机器学习来说,这还不够。应用程序可能按预期工作,没有干扰,但由于数据发生了变化,结果不可信任。总的来说,这个问题是所有机器学习系统的一个基本点的结果:测试(操作)阶段的数据可能与系统训练时的数据不同。因此,机器学习系统可能会在没有任何针对性的操作的情况下被破坏,仅仅是因为我们在操作阶段遇到的数据在训练阶段实现的泛化不起作用。还有一些攻击被理解为对机器学习管道元素(训练数据、模型本身、测试数据)产生特殊影响,目的是实现系统的期望行为或阻止其正确运行。如今,这个普遍与机器学习系统稳定性有关的问题,是机器学习在关键应用中使用的主要障碍。
采用人工智能解决方案来增强人力资本活动意味着机构需要学习和应对复杂而动态的监管环境。虽然目前联邦层面还没有专门针对人工智能的劳动法,但现有的联邦劳动法和公平招聘实践的保护措施可能会扩展到基于人工智能的决策。这些考虑可以从美国平等就业机会委员会 (EEOC) 于 2022 年 5 月发布的关于人工智能与《美国残疾人法案》(ADA) 交叉点的指导意见 5 中看出,该指导意见针对私营部门和联邦政府,而司法部发布了类似的指导意见 6,扩展到州和地方政府。EEOC 的 2023-2027 年战略执行计划草案 (SEP) 宣布该机构打算专注于“使用自动化系统……[排除或对受保护群体产生不利影响]”。
关于德勤 本通讯仅包含一般信息,德勤有限公司、其成员所或其相关实体(统称“德勤网络”)均不通过本通讯提供专业建议或服务。在做出任何可能影响您财务或业务的决定或采取任何行动之前,您应咨询合格的专业顾问。德勤网络中的任何实体均不对任何依赖本通讯的人所遭受的任何损失负责。 在本文件中,“德勤”是指德勤咨询有限责任公司,是德勤有限责任公司的子公司。有关我们法律结构的详细描述,请参阅 www.deloitte.com/us/about。根据公共会计规则和规定,某些服务可能无法提供给鉴证客户。 版权所有 2024 Deloitte Development LLC。保留所有权利。
领导者应该记住他们在危机中能够保持的灵活性,并在我们应对下一个信任挑战时保持这种精神:这些挑战在我们拥抱第四次工业革命的基础技术时出现。随着世界各地的组织和政府意识到人工智能的价值和竞争优势,对人工智能 (AI) 的投资和采用继续以指数级增长。我们知道信任是创新的关键推动因素和加速器,它对于持续接受和采用人工智能至关重要。但我们的客户、员工和其他利益相关者是否准备好并愿意信任人工智能系统及其部署组织?