实例,在流行的生成图像工具(例如稳定扩散)中使用的扩散模型通过迭代精炼噪声创建图片,这与人类艺术家通常采取的过程完全不同。关键的研究挑战在于开发新的方法来弥合执行鸿沟(即,将AGI的丰富能力传达给最终用户,并确保在系统的意图方面清楚地说明其对系统的规格),例如,通过支持对agis执行任务的最终任务的手段的界面(例如,通过支持手段的范围),以及纠正了任务(即执行任务)。超出他们个人知识的限制)。的确,HCI社区要考虑的一个挑战是,在理论上,AGI系统及其足够先进的先驱在人体计算机互动中弥合海湾是不可能的[4]。例如,任何足够通用的AI系统都可能拥有几乎无限的负担,因此很难或不可能完全弥合执行的鸿沟;减去机械可解释性研究的重大进步,仍然不可能完全桥接该过程
我们提出了一个框架,用于分类人工通用识别(AGI)模型及其前体的可行性和行为。该框架引入了AGI的水平,一般性和自主性,提供了一种共同的语言来比较模型,评估风险并衡量沿AGI的进度。为了开发我们的框架,我们分析了AGI的定义,并提炼了六个原则,即AGI有用的本体论应该符合ISFY。考虑到这些原则,我们根据能力的深度(性能)和广度(一般性)提出了“ AGI级别”,并反映了当前系统如何融入该OGY。我们讨论了对未来基准测试的挑战性要求,这些基准量化了针对这些利益方面的AGI模型的行为和能力。最后,我们讨论了这些级别的AGI如何与部署注意事项(例如自主权和风险)相互作用,并强调了精心选择人类互动范式的重要性,以负责对高度强大的AI系统负责和安全地部署。
人工智能(AI)已成为当代技术进步不可或缺的一部分,其应用涵盖了医疗保健,运输,财务和治理等行业。随着领域的发展,关于人工通用智能(AGI)的讨论已获得突出。与狭窄的AI不同,该AI旨在执行特定的任务,AGI渴望复制人类的认知能力,使系统能够自动地跨不同任务进行推理,学习和适应。对AGI的追求为社会转型带来了巨大的潜力,但也提出了复杂的道德,社会和治理挑战。本简介探讨了AGI的重要性,围绕其发展的道德考虑以及确保其负责部署的框架。
本文提议成立一个跨国通用人工智能联盟 (MAGIC),以减轻先进人工智能 (AI) 带来的生存风险。MAGIC 将是世界上唯一获准开发先进人工智能的机构,其签署国将对所有其他先进人工智能开发实施全球暂停令。MAGIC 将是独家的、以安全为重点的、高度安全的,并得到成员国的共同支持,其利益在签署国之间公平分配。MAGIC 将允许狭义人工智能模型蓬勃发展,同时显著降低通用系统出现错位、流氓、突破或失控结果的可能性。我们没有讨论实施暂停令的政治可行性,也没有讨论执行禁止高容量 AGI 训练运行所需的具体立法策略和规则。相反,我们提出了一个积极的未来愿景,即 MAGIC 作为一种全球治理机制,可以为长期、安全的先进人工智能监管奠定基础。
通用人工智能 (AGI) 代表了人工智能的重大飞跃,旨在创造具有类似人类认知和适应能力的机器。本摘要简要概述了 AGI 及其与人类的实时交互。与狭义人工智能不同,AGI 具有在不同领域脱颖而出的能力,使其成为各种任务的多功能智能伴侣。它参与自然语言对话、解决复杂问题和展现创造性思维的潜力对医疗保健、客户服务和自主系统行业具有重大影响。与 AGI 的实时交互有望提高众多应用的效率、决策和解决问题的能力。然而,随着 AGI 成为我们日常生活不可或缺的一部分,必须解决道德考虑、隐私问题和安全问题。本文强调了 AGI 的变革潜力,并强调了负责任的开发和整合的重要性,以确保其对社会产生有益影响。