EO 13990 • 将温室气体社会成本 (SC-GHG) 纳入决策、预算和采购领域。• 限制接触危险化学品和杀虫剂,包括低收入群体和有色人种社区。EO 14008 • 命令将气候考虑因素作为美国国家安全政策的基本要素。• 气候危机要求在本世纪中叶或之前大幅减少短期温室气体排放并实现净零排放。EO 14030 • 要求供应商 (1) 披露温室气体排放量和 (2) 披露与气候相关的财务风险和 (3) 设定基于科学的减排目标。• 命令机构在采购决策中考虑 SC-GHG,并在适当和可行的情况下优先考虑 SC-GHG 较低的供应商的投标和提案。
(“人工智能研究人员和政策制定者之间应该进行建设性的、健康的交流。”)到人工智能系统的技术功能问题(“高度自主的人工智能系统应该被设计成能够确保它们的目标和行为在整个运行过程中与人类价值观保持一致。”)
早上好。主席布里格林、排名成员坦格曼和委员会的其他杰出成员,感谢你们邀请我参加今天的听证会。我叫安东尼·阿吉雷,是加州大学圣克鲁斯分校的教授,也是未来生命研究所的联合创始人和联席主任,该研究所是一个非营利组织,汇集了学术界、企业界和非营利组织的杰出人物,研究、讨论和分享有关人工智能等重大社会塑造新技术影响的见解。除了今天的证词外,我还想就我们准备的关于 H.140 和 H.263 的具体评论进行记录。突然间,从几年前开始,机器学习和人工智能系统无处不在——从驾驶路线到不久后将自动驾驶的汽车,包括识别人脸、翻译文本、识别语音方向、组织新闻提要、击败国际象棋和围棋大师、撰写文本和协助科学研究的系统。 2017 年 1 月,该研究所在加利福尼亚州阿西洛马召开了一次会议,召集人工智能和相关领域的推动者讨论一个紧迫的问题:鉴于机器学习和人工智能能力和应用的近期爆炸式增长,我们如何确保人工智能不仅功能强大,不仅有利可图,而且对消费者、用户和整个社会都有益。我们为这个小组设定了一项具体任务:寻找、制定、辩论并希望采用一套可以指导技术人员、政策制定者和其他人实现这一目标的原则。这个过程从阅读和综合所有现有的人工智能政策提案开始——这是当时可以做的事情,然后在会议前几周撰写和辩论具体的可能性,然后亲自讨论和完善它们几天。这超出了我们的预期。我们能够制定 23 项原则,并得到整个领域的一致支持。他们得到了来自谷歌 DeepMind、Facebook、OpenAI、谷歌大脑、苹果等公司人工智能研究负责人的支持,总共超过 1000 名人工智能研究人员,以及科技行业的领导者,如埃隆·马斯克和萨姆·奥特曼,学术界人士,从已故的斯蒂芬·霍金到 Stuart Russell 和 Peter Norvig,他们实际上编写了人工智能教科书,还有许多非营利组织和政策界人士。我们之所以能够获得这种程度的支持和共识,是因为这个问题具有重大意义