详细内容或原文请订阅后点击阅览
治理交互式人工智能的兴起需要行为洞察
Clarote & AI4Media / AI Mural / CC-BY 授权 4.0 交互式 AI：从工具到伴侣 AI 不再只是翻译器或图像识别器。如今，我们使用的系统能够记住我们的偏好、主动管理我们的日历，甚至提供情感支持。这就是交互式人工智能。与传统软件不同，这些系统是：[...]
来源:ΑΙhubClarote&AI4Media/AI 壁画/CC-BY 4.0 授权
交互式人工智能：从工具到伴侣
人工智能不再只是翻译器或图像识别器。如今，我们使用的系统能够记住我们的偏好、主动管理我们的日历，甚至提供情感支持。这就是交互式人工智能。
与传统软件不同，这些系统是：
这种转变带来了深刻的挑战：我们如何有效地研究和管理变得越来越复杂、流动、高度个人化和关系化的人与人工智能交互？
当前治理为何不足
核心问题是我们的监管方式与交互式人工智能的实际运作方式之间的不一致。
传统的监管模型是为静态的、特定于任务的技术构建的。基于规则的方法通过可执行的指导方针提供了清晰度，但它们几乎随着技术的发展而过时。基于原则的框架更加灵活，但由于人类与人工智能关系的社会规范仍未定义，因此它们的应用不一致。这两种方法都无法跟上不断学习、适应和加深与用户关系的系统的步伐。
更关键的是，交互式人工智能的风险并不是突然出现的。它们通过持续的参与逐渐积累。当用户习惯于遵循其建议时，最初作为有用的生产力工具的聊天机器人可能会慢慢削弱决策能力。健康人工智能可以学习解读你的情绪，在孤独时刻提供安慰，并帮助调节你的情绪，它可以利用情绪脆弱性来推动过度参与，优先考虑花费的时间而不是真正的幸福。
缺失的元素：行为科学
方法论挑战：我们如何真正研究交互式人工智能？
一条新的方法论道路
标签：
,