走一条负责任的AGI

我们正在探索AGI的前沿,优先考虑技术安全,主动的风险评估以及与AI社区的合作。

来源:DeepMind - 新闻与博客

我们正在探索AGI的前沿,优先考虑准备就绪,主动风险评估以及与更广泛的AI社区的合作。

人工通用情报(AGI),至少在大多数认知任务中与人类一样有能力的人工智能可能会在未来几年内就在这里。

与代理能力集成在一起,AGI可以自主理解,推理,计划和执行操作。这种技术进步将为社会提供宝贵的工具,以应对全球挑战,包括药物发现,经济增长和气候变化。

这意味着我们可以期待数十亿人的切实利益。例如,通过实现更快,更准确的医学诊断,它可能会彻底改变医疗保健。通过提供个性化的学习经验,它可以使教育更容易获得和引人入胜。通过增强信息处理,AGI可以帮助降低创新和创造力的障碍。通过使获得高级工具和知识的访问权力,它可以使一个小组织能够应对以前只有大型,资金充足的机构才能解决的复杂挑战。

导航到AGI

我们对AGI的潜力感到乐观。它有能力改变我们的世界,是许多领域进步的催化剂。但是,这种强大的技术至关重要,即使是造成的伤害可能很小的可能性也必须受到重视并阻止。

缓解AGI安全挑战需要主动计划,准备和协作。以前,我们在“ AGI级别”框架论文中介绍了AGI的方法,该论文提供了对先进AI系统的功能进行分类,理解和比较其性能,评估潜在风险,并将进步朝着更一般和有能力的AI分类的观点。

“ AGI级别”框架 这篇名为“技术AGI安全与保障方法”的新论文

理解并解决滥用的潜力

危险功能