XiaoMi-AI文件搜索系统
World File Search System流氓
灾难性人工智能风险概述
人工智能 (AI) 的快速发展引发了专家、政策制定者和世界领导人对日益先进的人工智能系统可能带来灾难性风险的担忧。尽管已经分别详述了许多风险，但迫切需要系统地讨论和说明潜在危险，以便更好地指导减轻这些风险的努力。本文概述了灾难性人工智能风险的主要来源，我们将其分为四类：恶意使用，即个人或团体故意使用人工智能造成伤害；人工智能竞赛，即竞争环境迫使参与者部署不安全的人工智能或将控制权交给人工智能；组织风险，强调人为因素和复杂系统如何增加灾难性事故发生的可能性；流氓人工智能，描述了控制比人类聪明得多的代理的固有难度。对于每一类风险，我们都会描述具体的危害，提供说明性故事，设想理想情景，并提出减轻这些危险的实用建议。我们的目标是促进对这些风险的全面了解，并激发集体和主动的努力，以确保以安全的方式开发和部署人工智能。最终，我们希望这将使我们能够实现这项强大技术的好处，同时最大限度地降低发生灾难性后果的可能性。1
06.-TFI-FY-2023-CJ.pdf - 财政部
A — 使命宣言 通过应用财政部独特的政策、执法、情报和监管工具来识别、瓦解和打击恐怖分子、犯罪分子和其他对美国构成国家安全威胁的人，并保护美国和国际金融体系免受非法行为者的滥用，从而增强国家安全。 B — 请求摘要 TFI 请求 2.12059 亿美元，比 2021 财年运营计划的水平增加 3705.9 万美元。TFI 请求这些额外资源继续投资于其员工。随着对 TFI 权力的依赖不断增加，TFI 人员的相应增长以及对安全系统的需求增加需要在任务支持领域进行额外投资。该请求还促进了有针对性的投资，以加强美国的国家安全，包括为机密系统技术、制裁工作、部门范围内的反情报工作以及立法授权的盗贼统治奖励试点计划提供资金。 2023 财年预算优先为财政部的定向金融工具提供资金，这些工具可保护美国和国际金融体系免受滥用，以及打击支持恐怖分子、武器扩散者、有组织的跨国犯罪、流氓政权和其他威胁的金融网络。1.1 – 拨款明细表
灾难性人工智能风险概述
人工智能 (AI) 的快速发展引发了专家、政策制定者和世界领导人对日益先进的人工智能系统可能带来灾难性风险的担忧。尽管已经分别详述了许多风险，但迫切需要系统地讨论和说明潜在危险，以便更好地指导减轻这些风险的努力。本文概述了灾难性人工智能风险的主要来源，我们将其分为四类：恶意使用，即个人或团体故意使用人工智能造成伤害；人工智能竞赛，即竞争环境迫使参与者部署不安全的人工智能或将控制权交给人工智能；组织风险，强调人为因素和复杂系统如何增加灾难性事故发生的可能性；流氓人工智能，描述了控制比人类聪明得多的代理的固有难度。对于每一类风险，我们都会描述具体的危害，提供说明性故事，设想理想情景，并提出减轻这些危险的实用建议。我们的目标是促进对这些风险的全面了解，并激发集体和主动的努力，以确保以安全的方式开发和部署人工智能。最终，我们希望这将使我们能够实现这项强大技术的好处，同时最大限度地降低发生灾难性后果的可能性。1
工作文件32474
从创新经济学领域中汲取见解，我们讨论了塑造生成AI进展的可能具有竞争性的环境。我们分析的核心是可容纳性的概念 - 行业中的公司是否能够控制其创新所产生的知识以及互补的资产 - 是否有效进入都需要访问有效的公司可以访问的专业基础设施和能力。虽然AI基金会模型的快速改进有望在经济的广泛部门之间产生变革性的影响，但我们认为，对互补资产的严格控制可能会导致集中的市场结构，就像过去的技术动荡事件中一样。我们建议现任公司可能限制进入的可能道路，将新移民局限于下属角色并扼杀广泛的部门创新。我们以关于如何避免这种寡头的未来的猜测得出的结论。旨在分数化或促进共同访问互补资产的政策干预措施可能有助于保留竞争和激励措施，以扩展生成的AI前沿。具有讽刺意味的是，充满活力的开源AI生态系统的最佳希望可能取决于“流氓”技术巨头的存在，他们可能会选择与较小公司的开放性和互动，作为对其他现有企业的战略武器。
国防威胁降低局 (DTRA) - 辩护书
DTRA 的独特价值部分源于我们作为国防部和战斗支援机构的双重角色。在担任国防部角色时，我们会响应各军种以及国防部办公室的要求，包括负责采购和保障、政策和研究以及工程的国防部副部长。这些权力线使我们在反大规模杀伤性武器 (CWMD) 战斗中发挥战略作用，包括核探测、核生存能力、CWMD 技术、CWMD 测试和评估以及技术回溯等许多关键项目。作为战斗支援机构，DTRA 与跨机构和国际合作伙伴一起支持作战人员应对现有和新兴大规模杀伤性武器威胁所带来的最重大风险。它专注于近乎匹敌的竞争对手和流氓国家所带来的威胁，同时支持国家的核威慑。DTRA 的预算请求与临时国家安全战略指导、当前国防战略和核态势评估的总体指导相一致。最后，国防威胁降低局 (DTRA) 的预算表明了实现能力成果并在五项核心功能中产生效果的承诺：(1) 实现战略威慑，(2) 支持美国条约的实施和核查，(3) 合作减少全球大规模杀伤性武器威胁，(4) 识别弱点和缓解策略，以及 (5) 开发和提供快速能力。此外，国防威胁降低局 (DTRA) 支持国防部在《部队使用指南》、《联合战略能力计划》和《作战司令部战役计划》中阐明的反大规模杀伤性武器 (CWMD) 优先事项和要求。
可信人工智能与公司治理：从公司法角度看欧盟可信人工智能伦理准则
摘要 人工智能将改变我们生活的世界的许多方面，包括公司的治理方式。它可能会提高许多效率和改进，但也存在潜在的危险，包括对第三方造成有害影响的威胁、歧视性做法、数据和隐私泄露、欺诈行为甚至“流氓人工智能”。为了应对这些危险，欧盟发布了“专家组关于可信人工智能的政策和投资建议”（指南）。该指南从尊重人类自主、预防伤害、公平和可解释性四大基本支柱中提出了七项原则。如果由企业实施，将对公司治理产生巨大影响。该指南考虑了道德和法律交叉点的基本问题，但由于指南仅涉及前者而没有（太多）提及后者，因此它们的实际应用对企业来说具有挑战性。此外，虽然这些指南提倡许多积极的公司治理原则——包括以利益相关者为导向（“以人为本”）的公司宗旨以及多样性、非歧视性和公平性——但很明显，它们的普遍性留下了许多未解答的问题和担忧。在本文中，我们研究了《指南》对选定的公司法和治理问题的潜在意义和影响。我们的结论是，需要更具体说明其中的原则如何与公司法规则和治理原则相协调。然而，尽管《指南》存在不完善之处，但在更严格的立法手段出现之前，它们为指导企业建立值得信赖的人工智能提供了一个有用的起点。
2023 年主要风险 - 毕马威国际
乌克兰战争是过去 30 年来最重要的地缘政治事件之一。它标志着欧洲和平红利的结束，其连锁反应可能会持续数十年。欧亚集团警告说，“由于意外和误判而导致相互保证毁灭的可能性在 2023 年将比 1962 年古巴导弹危机以来的任何时候都高。与冷战高峰时期不同，普京没有办法让步或回到战前的状态”（2023 年最大风险 #1 流氓俄罗斯）。从宏观层面来看，俄罗斯与美国和欧洲的关系受到严重损害，很长一段时间内不太可能恢复正常。北约及其盟友正在将俄罗斯排除在全球贸易体系之外，并关闭主要的投资渠道，实际上将世界第 11 大经济体和食品和能源等大宗商品的重要出口国与工业化民主国家脱钩。这场危机加剧了本已高企的能源价格、通货膨胀和供应链中断。它导致自二战以来最大规模的难民涌入经济合作与发展组织 (OECD) 国家。网络攻击的风险正在增加，针对北约盟国的不对称攻击的风险也在增加。2021 年全球军费开支首次超过每年 2 万亿美元，并且还在继续上升。最令人担忧的是，世界上一些最脆弱的国家正面临粮食危机。不平等现象日益严重，20 年来贫困率首次上升。世界银行对全球增长前景低迷甚至出现滞胀风险发出警告（见底线 #2）。
测试激光技术破坏...
大量研究表明，尽管RF干扰系统和其他技术，无人机攻击的数量越来越多。无人机攻击中令人难以置信的增加意味着现有解决方案不足以阻止它。本文的目的是介绍一项关于激光光束与光聚焦系统组合的研究，以创建新的大炮粉碎流氓无人机。实验方法依赖于一种创新设计，该设计结合了激光模块和光镜组，以将功率集中在一个点上以碳化任何目标。具体来说，它是可调透镜位置从477mm到617mm的激光器，将激光束聚焦在所需的远处对象上。我们测量了从55米的距离燃烧丙烯酸塑料，木材和硬驾驶汽车吨的必要时间。注意到激光效率与激光功率和大炮打开的时间成正比。对激光大炮的测试表明，激光燃烧器技术可以破坏非法无人机。但是，发现激光受到不利天气条件（例如雾，雨和云）的影响。除此之外，该技术的脆弱性与稳定的系统要求，能量，过热以及破坏物体所需的时间有关。无论该技术的缺点是什么，激光是唯一具有高效的解决方案，可能会破坏或拦截自主的pro grammed无人机，因为RF干扰器或任何其他解决方案无法实现这一点。可以用新的变化重复该过程，以实现带有高效冷却器的二氧化碳激光管以增加激光功率。
2024-2025 年度业务计划
我很高兴向大家介绍国家贸易标准局 (NTS) 2024/25 年的业务计划。NTS 董事会由来自英格兰和威尔士的高级贸易标准局局长组成。我们使用政府拨款和资金来防止或调查犯罪分子在假冒、诈骗、假车和流氓制造商方面欺骗消费者和合法企业的更严重企图。我们还通过确保动物饲料链的安全来帮助保护食品供应。生活成本危机继续影响寻求“交易”以降低成本的消费者，这使得这项工作至关重要。今年，NTS 将从商业和贸易部获得 1203 万英镑，从食品标准局获得 230 万英镑用于实施我们的饲料计划，从住房和社区发展部 (DLUHC) 获得 130 万英镑用于支持与房地产和租赁机构相关的工作，从 HMRC 获得 80 万英镑用于切断非法烟草供应，从 DHSC 获得 150 万英镑用于完成与非法电子烟相关的两年工作计划。所有这些资金都与 24/25 的水平相同，在某些情况下，几年来一直保持在同一水平。随着成本不断上升，这给董事会带来了持续的挑战。NTS 还将与其他合作伙伴合作，包括内政部、知识产权局和学生办公室，开展相关的贸易标准活动。贸易标准系统的独特之处在于它拥有一个在当地、区域和国家范围内运作的综合系统。我们感谢地方当局贸易标准服务、区域协调员和其他合作伙伴给予我们的支持。
在竞争中威慑，在危机中缓和，在冲突中失败
一直以中东为中心，包括沙漠风暴行动、伊拉克自由行动和持久自由行动。与此同时，我们的竞争对手的能力也得到了提升。在这 30 年期间，美国制定了战略、计划和能力，重点是将力量投射到前方，以便与流氓政权、暴力极端组织和其他潜在对手作战。这导致了一种针对个别行为者的战术思维倾向，而不是对抗和与同等竞争对手竞争所必需的战略思维和分析。它灌输了一种对动能解决方案的偏好，而不是其他选择——包括威慑和收购战略，这种战略倾向于使用系统（通常很昂贵）来对抗一个领域的单一威胁，而不是多威胁、多域系统。这些“发射权”响应计划（而非“发射权”拒绝和威慑措施）限制了我们的行动和决策。与此同时，我们的竞争对手利用这一限制，通过持续的全球竞争框架，开发和推进专门针对我们国土防御漏洞的能力。俄罗斯制定了一项军事理论，设想对对手的关键基础设施进行非核打击，以迫使不断升级的冲突结束，并且它已经多次展示了通过在北美附近进行重型轰炸机巡逻来威胁我们国土的能力。在 2018 年 12 月进行一次这样的巡逻之后，俄罗斯官方媒体强调，这些飞行可能“对美国领土上最重要的战略设施构成严重威胁”。中国也已经发展出强大的能力来威胁我们在网络领域的关键基础设施，并可能在未来 5 年内部署常规巡航导弹。虽然中国发展这些能力的意图尚不明确，但我们怀疑北京会在发生地区冲突时利用它们来阻止和阻止我们跨越太平洋的兵力流动。最后，弗拉基米尔·普京发展俄罗斯北极地区的战略和