摘要本文探讨了技术奇异性的概念以及可能加速或阻碍其到来的因素。蝴蝶效应被用作一个框架,以了解复杂系统中看似很小的变化如何具有明显且无法预测的结果。在第二节中,我们讨论了可以加快技术奇异性的到来的各种因素,例如人工智能和机器学习的进步,量子计算的突破,脑部计算机界面的进展以及人类增强的进步以及纳米技术的发展以及纳米技术的发展和3D印刷。在第三节中,我们研究了可能延迟或阻碍技术奇异性的到来的因素,包括AI和机器学习中的技术局限性和挫折,围绕AI的道德和社会关注,及其对就业和隐私的影响,缺乏足够的投资,对研究和发展的投资,以及监管性的和政治的不稳定。第四节探讨了这些因素的相互作用以及它们如何影响蝴蝶效应。最后,在结论中,我们总结了所讨论的要点,并强调考虑蝴蝶效应在预测技术未来中的重要性。我们呼吁继续研究技术,以塑造其未来并减轻潜在风险。关键字:技术奇异性,蝴蝶效应,人工智能,复杂系统,量子计算。这个概念首先是由数学家和计算机科学家Vernor Vinge在1993年的文章《即将到来的技术奇异之处:如何在后人类时代生存》中引入的(Vinge,1993)。1-引言技术奇异性是一个假设的未来事件,其中人工智能超过了人类的智力,并具有递归的自我完善,从而导致技术进步的指数增长。从那时起,这一直是科学和技术社区中许多辩论和讨论的主题。技术奇异性的观念是基于这样的观念:随着人工智能变得更加先进,它最终将变得有能力提高自身,从而迅速提高其能力(Kurzweil,2005年)。这种自我完善可能会导致智力爆炸,在这种情况下,AI变得如此先进,以至于它超过了人类的智能,并能够解决问题并创造人类无法理解的创新。技术奇点的关键特征之一是加速回报的想法。这意味着,随着技术的提高,其进度率也会增加,从而导致其能力呈指数增长(Kurzweil,2001)。这可能会导致失控的效果,其中
最迟随着天网 [1] 的虚构智能的出现,人工智能 (AI) 奇点问题得到了更广泛的关注。从冯·诺依曼的评论开始,由 Ulman [2] 转述(“一次谈话集中在技术的不断加速进步和人类生活方式的变化上,这给人一种接近人类历史上某些基本奇点的感觉,超出这个奇点,我们所知的人类事务就无法继续下去。”)和 Vinge [3] 的假设,技术进步的演变和加速引发了机器何时会比人类更智能的问题。根据 [3] 等人的说法,大型计算机网络可能“醒来后成为超人智能的实体”。关于达到人工智能奇点的观点多种多样。[4] 中对这些观点进行了回顾。由于普遍接受的、详细的智力定义仍然存在争议,从技术定义的角度来看,奇点已经很模糊——认知和情感是额外的问题。尽管在心理学中,无聊被认为是人性和人类智力的重要组成部分,但据我所知,在关于智力的讨论中,人类心理属性的一个特征并没有被考虑在内:无聊。在心理学中,无聊被认为是一种重要的心理状态,通常介于完全意识和/或精神紧张的工作和/或发现的时刻等状态之间。尽管在一些出版物中提到无聊,例如[8],以提出更好的学习结果,但它并不被认为是人工智能系统在处理其设计的分配任务时可能陷入的状态。因此,假设一个关键特征
法律界。机器学习算法和自然处理语言已经在国外用于协助法院作出判决。据称,IBM 的 Ross 等应用程序可以惊人地准确回答用户提出的法律问题,甚至提供引文和进一步阅读的建议。美国一家律师事务所最近也宣布,他们正在使用 IBM 的人工智能 Ross 来处理他们的破产业务 1 。一些法律未来学家,如 Benjamin Alarie,他预测人工智能将带来法律奇点(一个假设的点,计算智能和决策能力超过人类律师、法官和其他决策者),借用 Vernor Vinge 的“奇点”一词,他认为人工智能将通过政府、律师、公司的算法系统之间的自动交互过程取代现有的法律制度,并在此过程中解决所有法律困境 2 。未来生命研究所联合创始人、物理学家马克斯·泰格马克 (Max Tegmark) 对此表示:“由于法律程序可以抽象地看作是计算,输入有关证据和法律的信息并输出判决,因此一些学者梦想通过机器人法官实现法律程序的完全自动化;人工智能系统会孜孜不倦地将相同的高法律标准应用于每一项判决,而不会屈服于偏见、疲劳或缺乏最新知识等人为错误。3”尽管最近取得了进展
成员:M. Akoshima(NMIJ/AIST)、K. Anhalt(PTB)、S. Bell(NPL)、RA Bergerud(JV)、R. Caballero Santos(CEM)、V. Cabral(IPQ)、D. Cardenas-Garcia(CENAM)、D. del Campo Madonado(CCT 主席、CEM / CIPM)、EJUSA(EJU)、YN. MC、A*STAR)、X. Feng(NIM)、V. Fernicola(INRIM)、J. Ferreira(IPQ)、V. Fuksov(VNIIM)、C. Gaiser(PTB)、R. Gavioso(INRIM)、B. Hay(LNE)、F. Jahan(NMIA)、S. Janssens(MSL)、M. Kalemci(UME)、Y.-G. Kim(KRISS)、L. Knazovicka(CMI)、S. Kondratiev(VNIIM)、T. Kopunec(SMU)、VG Kytin(VNIIFTRI)、S.-W. Lee(KRISS)、W. Lei(NMIA)、X. Lu(NIM)、G. Machin(NPL)、MI Maniur(SMU)、JM Mantilla(CEM)、M.-J. MartínHernández(Cem),E。Martines-Lopez(Cenam),B。MascarenhasLozano(Inmetro),A。Merlone(Inrim),C。Meyer(Nist),MJT Milton,MJT Milton(BIPM),BIPM主任,R。Mokhutsoane(R.Mokhutsoane(Nmisa),R.R.R.R.Moretz soher(NMI) RC),AA Falnes Olsen(JV),M。Panman(VSL),P。Pavlasek(SMU),J。Pearce(NPL),A。Peruzzi(NRC),A。Rakonjac(MSL),P。Rourke(NRC),M.Sadli(Lne-LCM/CNAM) Nift),F。Sparasci(LNE),R。Strnad(CMI),S。Tabandeh(Mikes),W。Tew(Nist),E。Vander Ham(Nmia),M。Vinge(vniiftri),L。Wang(a*star),I.Yang(Kriss),S.Yang(Kriss),S。YeYe(N. n. ye)。