关于AI典型的生存风险(X风险)的传统论述集中在突然的,由先进的AI系统引起的严重事件,尤其是那些可能实现或超过人级的英特尔省的系统。这些事件具有严重的后果,可以导致人类的灭绝或不可逆转地削弱人类文明,以至于无法恢复。但是,这种话语通常忽略了AI X风险通过一系列较小但相互联系的破坏逐渐表现出来的严重可能性,随着时间的流逝,逐渐越过关键阈值。本文将常规的决定性AI X风险假设与累积的AI X风险假设进行了对比。虽然前者设想了以场景为特征的明显的AI接管途径,例如iOS,例如无法控制的超智能,但后者提出了一种存在生存灾难的因果途径。这涉及逐步积累关键的AI引起的威胁,例如严重的脆弱性和对经济和政治结构的全身侵蚀。累积假设表明一种沸腾的青蛙情景,其中内部AI风险慢慢融合,破坏了社会的弹性,直到触发事件导致不可逆的崩溃。通过系统分析,本文研究了这两个假设的不同假设。随后认为,累积观点可以调和对AI风险的看似不相容的观点。讨论了这些因果途径之间区分这些因果途径的含义 - 决定性和累积性对AI的治理以及长期AI安全性的含义。
前言 特别致辞 来自:美国商务部副部长格雷夫斯 商务部对美国国家安全的重要性从未像今天这样凸显。商务部制定了《决定性的十年:推进国家安全》战略,以应对国家和经济安全受到的前所未有的威胁和破坏,而商务部在这些领域拥有强大的分析工具和独特的能力。正因如此,我很自豪地发布这项有史以来第一份商务部国家安全战略。 认识到经济安全对我们的国家安全至关重要,该战略旨在指导商务部实施拜登-哈里斯政府的国家安全战略。它提供了一个框架,指导商务部增强国家应对破坏的抵御能力,抵御直接威胁,并创造条件确保其他威胁永远不会发生。 国会和拜登政府已赋予我们部门重要的国家安全权力,包括扩大出口管制制度,以及通过《芯片和科学法案》为全国各地社区投资关键和新兴技术提供关键资金。鉴于这些新工具和新职责,我们已经——并且必须继续——重新评估我们机构在国家安全格局中的重要作用。自政府战略发布以来,我很荣幸地领导了多项全部门的努力来指导其实施。其中包括一个跨局关键新兴技术威胁 (CETT) 小组,该小组定期接收情报简报,并致力于制定协调一致的方法来应对人工智能、生物技术、清洁能源技术和量子信息科学等有前途的新兴和先进技术所带来的挑战。我还带头重组了我们的情报办公室,以更好地解决全部门的情报支持和协调问题。这一重组最近得到了我们在国会的合作伙伴的批准,将帮助我们实现该战略中概述的目标。这两个例子都强调了推动我们工作的两个关键原则。首先,履行我们的国家安全责任必须是全部门的努力——每个局都在这一关键任务中发挥作用。其次,我们的部门必须积极主动地应对国家安全威胁。迫在眉睫的威胁需要立即做出反应,但我们最重要的工作之一是——并将继续是——从一开始就防止威胁的发生。
AFA 存在的原因正是如此:推动对话、互动和创新,这些长期以来使我们的空军和太空部队成为世界羡慕的对象。自 1946 年以来,AFA 一直支持空军,自 2019 年以来一直支持太空部队,以确保美国空军和卫队仍然是世界上训练最充分、装备最精良、能力最强的作战部队。AFA 具有独特的优势,可以实现道德互动,并完成行业和政府无法独自完成的事情。
我们即将结束该政策周期的结束。谈判者和欧洲议会的谈判者正在结束对气候和能源合法性的全面更新的最后一个要素,以便到2030年将欧洲的温室气体排放量减少55%,并到2050年达到气候 - 纽约市陆地。当前的政策周期是由两个重大危机塑造的,即199大流行,其次是俄罗斯入侵乌克兰和随后的化石能源危机。在确定性问题的驱动下,过去18个月使欧洲更加紧密地掌握了能源政策,帮助提供了雄心勃勃的气候和能源议程,并加快了清洁技术的部署。但是,他们还暴露了欧盟成员国内外的裂痕。同时,森林大火,炎热的热浪以及广泛的干旱和洪水使气候危机对欧洲公民的影响不断增长。
如果您考虑可持续性,即您的CO 2足迹,则必须将其从摇篮到坟墓提供。从产品的开头到最后。这包括您所有的供应商和所有客户。您需要收集数据并沿供应链中提供数据,并能够报告它以显示该产品的足迹。这适用于所有OEM(原始设备制造商)和所有供应商。我们都面临着相同的挑战,因此我们认为,我们完全有意义地聚集在像Catena-X这样的平台上,以保持一致的共同数据结构,有可能实现这些等式,并优化我们如何实现这一目标。这就是为什么对我来说,这些平台更多地是关于实现实际用例而不是弹性。
我们的国家正在创新中,我们认为国防部(国防部)的挑战主要不是关于技术的,而是围绕文化和过程。将技术过渡到战士需要太长时间了,而国防部以过程为中心的,规避风险的文化产生了足够的障碍,以使非传统国防公司几乎不可能为国防部的任务做出贡献。许多研究已经提出了解决DOD的创新采用和扩展问题的建议,但是解决方案归结为改变一种有利于谨慎的文化,并有利于谨慎和现有过程,成为一种具有实验,敏捷性,学习和风险的创新文化。我们必须创建一个防御创新生态系统,使创新者更接近战士,并可以迅速采用和扩展创新解决方案。虽然已建立的军事研究实验室和传统的防御素数具有不可或缺的作用,但它们不能成为创新的事实上的仲裁员和守门人。20世纪的防御创新生态系统将不会赢得21世纪的冲突。,部门必须参与更广泛,更多样化的创新者网络,以借鉴我们整个国家的优势和创造力以及主要伙伴和盟友的优势和创造力,以应对本世纪的国家安全挑战。拥有国防部的第一个国防S&T战略(NDST)很重要,可以加强国防战略的关键原则,但是只有当该部门实际上为战士带来技术优势时,这才很重要。我们认为这样做需要紧迫感,严格对成果的责任以及鼓舞人才来为任务做出贡献。
收件人:相关方 发件人:Anita Dunn 和 Mike Donilon 日期:2023 年 6 月 26 日,星期一 主题:拜登经济学正在改变失败的涓滴政策并改变我们的经济——并且受到绝大多数美国人的强烈支持 拜登总统在 2020 年竞选时承诺重建美国的中产阶级——并创建一个为长期被忽视和落后的家庭和社区服务的经济。 拜登总统在上任时就面临着迫在眉睫的经济危机,但他也意识到,仅仅回到疫情前的经济是不够的,这种经济带有数十年失败的涓滴政策的伤痕——在这种经济中,企业和富人获得大规模减税,而对美国人民的关键投资却被蚕食,工厂被关闭,好工作被转移到海外,整个社区被掏空,失去了希望和尊严,中产阶级生活的标志越来越遥不可及。这是国会共和党人至今仍在推行的经济议程。在总统签署防止灾难性违约的两党预算协议几周后,国会共和党人又开始为偏向富人和大公司的减税奠定基础,这将使赤字增加 3 万亿美元以上。总统上任时秉持着长期坚持的、根本不同的经济愿景——他决心翻开过去失败的涓滴政策的新篇章。两年后,有明确而有力的证据表明,拜登经济学既是一项取得成果的成功经济战略,也是绝大多数美国人大力支持的方法。拜登经济学植根于一个简单的理念,即我们需要从中部向外、从下往上发展经济——而不是自上而下。在这个经济中,我们在美国创造更多,赋予美国工人权力并对其进行投资,并促进竞争以降低工薪家庭的成本。实施这一经济愿景和计划——并果断地翻开涓滴经济时代的新篇章——一直是拜登总统任期内的决定性项目。周三,拜登总统将在芝加哥发表重要讲话,强调他的通过扩大中产阶级来发展经济的战略如何为美国人民带来利益。在未来的几周和几个月里,总统、内阁成员和政府高级官员将继续在全国各地奔走,直接向美国人民宣传拜登经济学和总统的“投资美国”议程,并呼吁那些想通过重拾过去失败的涓滴政策来拖累我们国家倒退的人。为了启动这一冲刺,拜登总统今天将宣布向所有 50 个州、领地和领地提供超过 400 亿美元的基础设施资金。以及哥伦比亚特区,让美国每个人都能享受到价格合理的高速互联网。就像富兰克林·德拉诺·罗斯福通过农村电气化法案将电力供应到美国的每个家庭一样,这一声明是拜登总统为全国工薪阶层和中产阶级家庭直接提供投资、就业和机会的更广泛努力的一部分。
Thomas G. Mahnken是战略和预算评估中心的总裁兼首席执行官。他是约翰·霍普金斯大学(John Hopkins University)的Paul H. Nitze高级国际研究学院(SAIS)的菲利普·美林战略研究中心(Philip Merrill)战略研究中心的高级研究教授,在美国海军预备役中担任官员20多年,包括伊拉克和科索沃的旅行。目前,他是2022年国会国防战略委员会的成员,也是陆军科学委员会的成员。他上前政府的职业包括2006年至2009年担任政策规划副国防部长的服务,他帮助制作了2006年四年季节国防审查和2008年国防战略。他曾担任2018年国防战略委员会的成员,并担任海洋军团委员会的成员。他曾在2014年国防小组的工作人员,2010年四年防御审查独立小组以及美国关于大规模杀伤性武器的情报能力委员会任职。他曾在国防部净评估办公室任职,并担任海湾战争空中力量调查的成员。2009年,他被授予国防杰出公共服务奖,并于2016年被授予海军上级平民服务奖章。