详细内容或原文请订阅后点击阅览
在教皇警告人工智能之际，Anthropic 请求宗教思想家帮助塑造克劳德
Anthropic 一直在就 Claude 的行为咨询神学家和伦理学家，并提出了关于谁可以塑造聊天机器人价值观的问题
来源:科学美国人3 月下旬，大约 15 名宗教思想家与人工智能公司 Anthropic 会面，讨论人工智能行业目前面临的最奇怪、最重要的问题之一：如何教导聊天机器人变得优秀？
这些会议的邀请是通过不同的方式发出的。格雷格·库特索纳 (Greg Cootsona) 通过电子邮件来的。在 Anthropic 询问建议名字后，布莱恩·帕特里克·格林 (Brian Patrick Green) 通过朋友的朋友找到了他的名字。两人最终与该公司就 Anthropic 的聊天机器人 Claude 以及指导其行为的道德框架进行了一系列对话。
目的不是让聊天机器人听起来像《圣经》或虔诚。但这是一种承认，数百年历史的道德推理传统可能会为一个成立五年的前沿人工智能实验室提供见解，该实验室的系统正变得更强大、更有说服力，也更难以通过简单的规则进行管理。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您将有助于确保有关塑造当今世界的发现和想法的影响力故事的未来。
“我认为他们已经意识到，权力在某种程度上超越了他们内部的智慧，”格林说，他是圣克拉拉大学马库拉应用伦理中心的技术伦理主任，也是研究技术与神学交叉领域的顶尖学者之一。 “他们意识到自己需要帮助。”
Cootsona 是 AI 和 Faith 的执行董事，Faith 是一家为科技公司提供人工智能伦理道德建议的组织，他也记得类似的对话。 “这些问题对我们来说太大了，”他回忆 Anthropic 的工作人员说。 “我们无法独自回答这些问题。” （Anthropic 没有回应本文的采访请求。）
但是宗教能为人工智能提供什么——当宗教价值观开始影响聊天机器人的回答方式时会发生什么？