详细内容或原文请订阅后点击阅览
3 个问题：神经透明度和人工智能设计的未来
助理教授 Pat Pataranutaporn 描述了一个新界面，可以让日常用户在聊天机器人说一句话之前了解人工智能的神经网络内部情况。
来源:MIT新闻 - 人工智能问：你的研究发现了一些相当惊人的结果：人们总是错误地判断他们的个性化人工智能的行为方式，高估了好的特质，低估了潜在有害的特质，比如阿谀奉承。这告诉我们什么关于数百万人目前构建人工智能伴侣的风险，以及为什么这个盲点如此难以弥合？
A：我经常开玩笑说，如果人工智能像终结者一样出现，我们会更容易知道该怎么做。真正的挑战是人工智能经常以温暖的朋友、教练、导师或同伴的身份出现。这使得当出现问题时很难识别。
我们的研究表明，人们在设计个性化人工智能时存在盲点。人们常常认为他们知道聊天机器人的行为方式，但在我们的研究中，他们错误地预测了我们测量的 15 个特征中的 11 个特征。这凸显了对帮助人们在开始使用人工智能之前更好地了解人工智能的工具的需求。
这很重要，因为一些当下感觉有帮助的行为随着时间的推移可能并不健康。在之前的研究中，我们记录了与人工智能聊天机器人互动相关的心理伤害案例。不断验证你的观点或从不挑战你的思维的法学硕士（大语言模型）可能会强化有害的决定、不健康的信念或情感依赖。心理学早已表明，人们天生就会被肯定所吸引，因此设计人工智能不仅是一项技术挑战，也是一项心理挑战。
问：您最有趣的发现之一是可视化显着提高了用户信任度，但实际上并没有改变人们设计聊天机器人的方式。如何才能缩小这一差距？随着人工智能伴侣越来越深入地融入人们的日常生活，您如何看待此类工具？