详细内容或原文请订阅后点击阅览
科学家说，AI可以流行的32种不同的方式 - 从幻觉的答案到与人类的完全错误对准
新的研究创造了第一个全面的努力，以分类AI可能出错的所有方式，其中许多行为类似于人类的精神疾病。
来源:LiveScience科学家建议，当人工智能（AI）变得无聊并开始以与其预期目的相反的方式行事时，它表现出与人类心理病理相似的行为。这就是为什么他们创建了32个AI功能障碍的新分类法，以便各种领域的人们可以了解建造和部署AI的风险。
人工智能在新的研究中，科学家着手将AI的风险分类为偏离其预期的道路，与人类心理学相似。结果是“ Psychopathia Machinalis”，这是一个旨在阐明AI病理的框架，以及我们如何对抗它们。这些功能障碍的范围从幻觉答案到与人类价值观和目标的完全未对准。
Psychopathia Machinalis由Nell Watson和Ali Hessami创建，AI研究人员和电气与电子工程师研究所（IEEE）的成员均旨在帮助分析AI失败并使未来产品的工程更安全，并被吹捧为帮助决策者应对AI风险的工具。 Watson和Hessami在8月8日发表在《电子产品》杂志上的一项研究中概述了他们的框架。
内尔·沃森（Nell Watson） Ali Hessami 电子根据研究，Machinalis精神病提供了对AI行为和风险的共同理解。这样一来，研究人员，开发人员和政策制定者就可以确定AI可能出错的方式，并根据失败类型来定义减轻风险的最佳方法。
这项研究还提出了“治疗性机器人心理一致性”，这是研究人员称为AI的一种“心理疗法”的过程。
研究人员认为，随着这些系统变得更加独立和能够反思自己，只需使它们符合外部规则和约束（基于外部控制的一致性），可能已经不够了。
相关：