详细内容或原文请订阅后点击阅览
美国的超级智能困境
如何避免人工智能灾难。
来源:外交事务多年来，专家们一直预测人工智能将彻底改变世界政治。历史可能会将 2026 年记录为革命到来的时刻。从今年年初开始，从人工智能在美国军事干预中的使用，到性能明显优于人类操作员的人工智能网络武器的出现，不断的发展凸显了人工智能时代的可能性和危险。 “失控”事件（人工智能模型逃脱人类控制和监督的情况）变得更加常见。包括总统唐纳德·特朗普在内的美国官员吹捧美国在人工智能发展前沿的领先地位，尽管他们担心潜在的危险。
一些专家认为，人类距离通用人工智能已经很近了：能够像人类一样甚至更好地执行各种任务的技术。越来越多的人猜测，超级人工智能（ASI）——一个难以捉摸的概念，宽泛地定义为在所有任务和领域都远远超出人类能力的人工智能模型——可能会在几年内出现。相比之下，当今的顶级人工智能模型仅在数学和数据处理等狭窄领域超越人类能力，而在常识和深度推理等领域落后于人类能力。 ASI的出现可能会带来惊人的经济和科学进步，或者带来颠覆性的军事进步，从而颠覆全球力量平衡。但它也可能从根本上改变机器和人类之间的关系，也许在最可怕的情况下，允许近乎全能的系统消灭它们的人类创造者。
风险和回报
首先在顶部
一个潜在的选择是追求 ASI 的霸主地位，以确保超级智能首先且仅在美国出现。该战略利用 ASI 来支持民主价值观和美国的主导地位。它认为，在地缘政治挑战和生存风险方面，主导地位是通往安全的道路。