还必须评估 AI 工具在具体案例中的表现。例如,AI 系统应容忍何种程度的错误(包括假阳性和假阴性)?答案可能取决于几个因素,例如错误对个人和执法资源造成的后果的严重性;AI 系统分析的个人信息的敏感性;以及在没有 AI 系统的情况下使用的调查流程的相对准确性、成本、可扩展性或速度。性能可以在实验室(部署前)和现场进行评估,在这两种情况下,用于确定最低准确度的阈值和因素可能不同。工具的使用时间也可能很重要,因为机器学习系统的性能通常会随着使用而提高。
但需要采取直接和有意识的行动来实现人工智能的好处,降低潜在风险,并保证其好处在全社会公平分配。随着人工智能应用的加速,同样需要确保其开发和部署由负责任的治理指导。这种治理从至关重要的第一步开始:协调标准和最佳实践。而且由于其培训和使用没有物理边界,其治理必须对整个社会的用户可行且易于理解,并在广泛的法律管辖范围内运作。人工智能治理框架必须首先评估人工智能系统在特定用例和特定受众中的潜在风险和好处。只有这样,我们才能确定是否以及如何继续开发或部署,并确保人工智能系统值得我们信赖。
● Jean-Paul Chretien 博士,海军医生,国防高级研究计划局(DARPA)项目经理 ● Surya Ganguli 博士,斯坦福大学应用物理学副教授,神经生物学和电子工程副教授(兼职),人本人工智能研究所(HAI)高级研究员 ● Susan Gregurick 博士,美国国立卫生研究院数据科学副主任兼数据科学战略办公室主任 ● Michael Jordan 博士,加州大学伯克利分校电子工程和计算机科学杰出教授、统计学教授 Pehong Chen 先生 ● James Swanson 先生,强生公司执行副总裁兼首席信息官
地点:虚拟活动参与:需要注册才能观看虚拟会议目标:本次会议的主要目的是让委员会审查与确保和推进人工智能安全相关的概念和操作方法。委员会将听取受邀专家的意见,然后进行提问和讨论。会议结束时,NAIAC 将讨论与《关于安全、可靠和值得信赖地开发和使用人工智能的行政命令》相关的主题。上午 10:00 – 上午 11:25 会议开始
开幕词 Janet Haven,NAIAC 成员兼安全、信任、权利工作组联合主席 第一小组:人工智能安全中的概念:人工智能中“安全”的范围 主持人:Janet Haven,NAIAC 成员 ● Inioluwa Deborah Raji 博士,Mozilla 和加州大学伯克利分校研究员 ● Vincent Conitzer 博士,计算机科学教授,卡内基梅隆大学合作人工智能实验室基础 (FOCAL) 主任 ● Chris Meserole 博士,前沿模型论坛执行主任 ● Arvind Narayanan 博士,普林斯顿大学计算机科学教授 ● Julia Angwin 女士,Proof News 创始人 ● 尊敬的 John C. (“Chris”) Inglis,首任美国国家网络总监 ● Suresh Venkatasubramanian 博士,计算机科学教授,布朗大学技术责任、重新想象和重新设计中心主任 上午 11:25 - 上午 11:30 休息 11:30上午 12:50 - 下午 12:50 第二小组:实施人工智能安全:方法论和组织实践 主持人:Jon Kleinberg,NAIAC 成员
国家人工智能咨询委员会 (NAIAC) 简报会 2023 年 8 月 3 日,美国东部时间下午 12:00 - 2:00 虚拟 | 注册观看。 2023 年 8 月 3 日,星期四,东部时间下午 12:00 指定联邦官员宣布会议开始。 12:00 - 12:05 欢迎致辞 Miriam Vogel,国家人工智能咨询委员会主席 Kathy Pham,国家人工智能咨询委员会执行董事 由人工智能未来领导的简报会一:维持下一代人工智能工作组的创新 12:05 - 12:10 pm 简报目标和介绍 这将是人工智能未来:维持下一代人工智能工作组主办的几次简报会中的第一场。 12:10 - 12:25 pm 特邀发言 Yoshua Bengio,蒙特利尔大学 Francesca Rossi,IBM Stuart Russell,加州大学伯克利分校 12:25 - 12:50 pm 与 NAIAC 成员讨论 12:50 - 12:55 pm 总结 12:55 - 1:00 pm 休息简报二 由生成式与下一代人工智能:安全和保障工作组领导 1:00 - 1:05 pm 介绍简报人 生成式与下一代人工智能:安全和保障工作组 1:05 - 1:25 pm 特邀发言 Sam Gregory,证人 Abby Kukura,特别竞争研究项目 (SCSP) Percy Liang,斯坦福大学 Joelle Pineau,Meta 1:25 - 1:50 pm 与 NAIAC 成员讨论 1:50 - 2:00 pm总结和闭幕词下午 2:00 指定联邦官员休会。
最终会议议程 2024 年 5 月 2 日 | 美国东部时间上午 10:00 至下午 4:00 地点:美国商务部,DOC 研究图书馆 1401 Constitution Ave. NW,图书馆华盛顿特区 20004 虚拟:Zoom 活动链接将发送给所有注册的与会者。 参与:需要注册才能亲自或以虚拟方式参与 目标:本次会议的主要目的是让委员会提供工作组最新情况,审议调查结果和建议草案,并听取联合国人工智能高级别咨询机构的简报 上午 10:00 – 上午 10:10 宣布会议开始 Cheryl Gendron,指定联邦官员 开幕词 Melissa Taylor,NAIAC 项目经理 欢迎词 Miriam Vogel,NAIAC 委员会主席 James Manyika,NAIAC 委员会副主席
地点:虚拟活动虚拟:已向所有注册与会者发送 Zoom 活动链接。目标:本次会议的主要目的是让 NAIAC 的人工智能和劳动力工作组主办一个关于人工智能和美国工人公正过渡的小组讨论,探讨国家如何采取新的和创新的以工人为先的方法来帮助人们享受终生的职业成功。确保工人拥有有尊严的、有利于职业发展并允许工作流动的工作经历,不仅是工人和社区福祉的当务之急;它还能确保美国经济更强大、更具竞争力。小组将寻求鼓励采取务实、多学科和多利益相关者的方法来解决这个问题。因此,它寻求组织、专家、工人和雇主的参与,他们有兴趣提供一系列观点和新想法,支持工人在日益受人工智能影响的劳动力和经济中取得成功。下午 2:00 – 下午 2:05 会议开始并欢迎 NAIAC 指定联邦官员 Cheryl Gendron NAIAC 主席 Miriam Vogel NAIAC AI 和劳动力工作组联合主席 Trooper Sanders 下午 2:05 – 下午 3:25 讨论小组:AI 和美国工人的公平过渡(第一部分)● Burning Glass Institute
过去几年,美国联邦政府对人工智能技术的采购急剧增加。1 基于对各机构在采购尖端人工智能方面面临的挑战的研究,NAIAC 2023 年秋季的建议重点关注各机构在现有采购权限内可以做些什么。即,NAIAC 建议各机构优先考虑人工智能采购,包括在其总统过渡计划中;解决人工智能专业知识差距并培训采购人员;利用新兴人工智能采购实践的非详尽清单——例如质量保证监测计划 (QASP) 和领域内评估;并确保创新人工智能采购方面的专业知识和最佳实践成为机构知识并在整个机构间共享。2 持续的研究和与利益相关者的接触揭示了联邦采购条例 (FAR) 在实践中的实施存在很大局限性。因此,这项建议侧重于机构采购一流、值得信赖的人工智能所必需的变革。
国家人工智能咨询委员会(NAIAC)在商务部的权限上是由国会强制授权和创建的,向总统提供有关人工智能与创新,竞争,社会问题,经济,法律,国际关系以及其他可以并且将在近期和长期内会受到AI的影响。委员会是由2020年的国家AI Initiative Act创建的(P.L.116-283或ACT),指示NAIAC向总统和国家AI倡议办公室提供建议,包括当前的美国AI竞争力,如何增强国际AI政策方面的国际合作,以确保AI的信任度发展,AI,AI围绕AI和AI Formforce问题。委员会还负责有关该法案制定的国家AI倡议的管理和协调的建议,包括其活动和资金。我们的25名委员会成员来自不同的背景 - 学术界,工业,民间社会,政府 - 所有人都具有AI的深厚而互补的专业知识。