本文探讨了人工智能 (AI) 遏制问题,特别是针对为通用人工智能 (AGI) 和超级智能创建有效保障措施的挑战。我认为,完全控制(定义为完全可预测人工智能行为并完全遵守安全要求)是无法实现的。本文回顾了五个关键约束:不完整性、不确定性、不可验证性、不可计算性和不可纠正性。这些限制基于逻辑、哲学、数学和计算理论,例如哥德尔不完备定理和停机问题,它们共同证明了遏制人工智能是不可能的。我认为,不应追求完全遏制人工智能,而应将资源分配给风险管理策略,这些策略承认人工智能的不可预测性并优先考虑自适应监督机制。
理论介绍;有限状态机(FSM):FSM 介绍、FSM 示例、正则语言上的操作、非确定性 FSM 介绍、非确定性 FSM 的形式定义、确定性和非确定性 FSM 的等价性;正则语言:正则操作的闭包、正则表达式、正则表达式与正则语言的等价性、正则语言的抽水引理、正则语言总结;上下文无关语法和语言(CFG 和 CFL):CFG 和 CFL 介绍、CFG 示例、CFL 的种类、CFL 的事实;上下文相关语言:乔姆斯基范式、乔姆斯基层次结构和上下文相关语言、CFL 的抽水引理;下推自动机(PDA):PDA 介绍、CFG 和 PDA 的等价性、从 CFG 和 PDA 的等价性得出结论;图灵机 (TM):TM 简介、TM 示例、TM 定义和相关语言类、Church-Turing 论题、TM 编程技术、多带 TM、TM 中的不确定性、TM 作为问题求解器、枚举器;可判定性:可判定性和可判定问题、对于 DFA 的更多可判定问题、有关 CFL 的问题、通用 TM、无穷大 - 可数和不可数、不可图灵识别的语言、停机问题的不可判定性、不可图灵识别的语言、可归约性 - 一种证明不可判定性的技术、停机问题 - 通过归约证明、可计算函数、TM 的等价性、将一种语言归约成另一种语言、后对应问题、PCP 的不可判定性、线性边界自动机;递归:打印自身的程序、编写自身描述的 TM、递归定理、递归定理的结果、不动点定理;逻辑:一阶谓词逻辑 - 概述、真值(含义和证明)、真实陈述和可证明陈述、哥德尔不完备定理;复杂性:时间复杂度和大 O 符号、计算算法的运行时间、使用不同计算模型的时间复杂度、时间复杂度类 P 和 NP、NP 的定义和多项式可验证性、NP 完备性、SAT 是 NP 完备的证明、空间复杂度类
3. 前机器是非自治动力系统 [5]。一些前机器程序可以增加其程序复杂度,而对表示前机器程序所需的最小位数没有任何上限。这是一个至关重要的见解,因为停机问题的信息论证明的矛盾取决于图灵机的程序复杂度保持不变。通过研究 [2] 中的第 362-363 页或 [3] 可以轻松看到这一点。前机器的这一特性使它们能够规避 [2] 第 362-363 页证明中的矛盾。非自治动力系统表现出更有趣/更复杂的动态行为。当拓扑空间是连续体时,非自治系统肯定会表现出更复杂的行为。请参阅 [5] 中的第 2 章,标题为“非自治系统中周期点的不稳定性”,位于网页 https://www.aemea.org/msf.html 的底部附近。(单击稳定性:24-31 和稳定性:32-37。)
对人工智能系统的担忧之一就是拥护“道德人工智能”,即阐明道德规范,然后强加法律要求,要求人工智能系统符合这些规范。但这会起作用吗?更准确地说,是否存在一种有效的程序,通过该程序,人工智能系统开发者或监管者可以提前确定人工智能系统一旦投入运行,是否会持续产生符合所需道德规范的输出?本文的答案是“不”。停机问题表明,没有一种算法可以可靠地为运行任何允许输入的所有人工智能系统做到这一点。可以决定某些运行某些输入的人工智能系统的合规性,但并非总是如此。当计算方法失败时,法律系统可以“填补空白”吗?本文表明,至少到目前为止,这种可能性并不积极。关于哪些法律规则应该评估人工智能系统的使用或滥用的责任,以及这些规则在具体案件中应该如何运作,存在一些问题。当前的法律提案本身可能不符合可解释性的道德规范。当与不受任何道德规范约束的人工智能超级智能相比时,无效性成为一个问题。
埃克塞特学院牛津暑期课程 量子计算机科学:导论 课程简介 这是一本量子计算机科学的入门书,主要面向计算机科学家、物理学家、电气工程师和数学家。它将介绍大量的思想,重点是熟悉主要概念,以及一些术语和方法的一般知识。数学方法将以“需要知道”的方式以实用的方式使用。目的是为任何希望最终加入研究工作或加入工程和商业劳动力队伍并具有丰富背景的人提供基础,以方便他们进入该学科。主要参考文本是 David Mermin 的《量子计算机科学:导论》。John Preskill 的讲义也可能有用。 教学大纲概述 1. 经典比特和经典信息 数据压缩的概念;香农信息和无噪声编码定理。 2. 经典计算机科学 图灵机和通用性、冯·诺依曼架构、逻辑门、复杂性类、停机问题。 3. 数学背景:线性代数、复数向量、特征值、厄米矩阵和幺正矩阵、交换子、泡利矩阵、狄拉克符号 4. 基本量子观察:叠加、纠缠、测量、双路径量子干涉实验、杨氏狭缝、哪条路径信息、简单测量理论(投影)、薛定谔方程 5. 量子比特、量子态、门和测量、双态量子系统、单量子比特和双量子比特逻辑门、阿达玛变换、克利福德门、Gottesman-Knill 定理、通用门集。
尽管人工智能和量子计算 (QC) 正迅速成为未来互联网的关键推动者,但专家认为它们对人类构成了生存威胁。针对 ChatGPT/GPT-4 的疯狂发布,数千名感到震惊的科技领袖最近签署了一封公开信,要求暂停人工智能研究,为不受控制的 AGI (通用人工智能) 对人类造成的灾难性威胁做好准备。AGI 被视为“认识论的噩梦”,人们认为 GPT-5 会使 AGI 陷入危险。两条计算规则似乎是造成这些风险的原因。1) 强制第三方权限,允许计算机以引入漏洞为代价运行应用程序。2) 图灵完备人工智能编程语言的停机问题可能导致 AGI 势不可挡。在传统系统下,这些固有弱点的双重打击仍然是不可战胜的。最近的网络安全突破表明,禁止所有权限可将计算机攻击面降至零,从而提供一种新的零漏洞计算 (ZVC) 范式。本文通过部署 ZVC 和区块链,制定并支持一个假设:“通过征服两个不可攻克的可计算性规则,安全、可靠、合乎道德、可控的 AGI/QC 是可能的。”在欧洲财团的推动下,当 AGI/QC 到 2025 年开始为 750 亿台互联网设备提供支持时,测试/证明提出的假设将对未来的数字基础设施产生突破性的影响。