详细内容或原文请订阅后点击阅览
人类对克劳德：做出正确的选择！
该文件旨在广泛指导克劳德在最具道德挑战性的情况下的行为，同时还规定了一些硬性规则。 （请不要消灭全人类。）
来源:ZDNet | 机器人新闻关注 ZDNET：将我们添加为 Google 上的首选来源。
ZDNET 的关键要点
应该如何让人工智能在世界上发挥作用？在道德模糊的情况下，人工智能代理是否应该优先考虑某些价值观？这些智能体是否有意识？如果没有，他们将来是否可能变得有意识？
这些只是人工智能初创公司 Anthropic 为其旗舰人工智能聊天机器人 Claude 制定的新“宪法”中解决的众多棘手问题中的一部分。
另外：我使用 Claude Code 在 8 小时内编写了一个 Mac 应用程序，但这比魔法更费力
该文件于周三发布，在公司博客文章中被描述为“一份全面的文件，解释了 Claude 运营的背景以及我们希望 Claude 成为的实体类型。”
它编纂了克劳德必须遵守的一系列价值观，当世界开始应对随着先进且越来越有意识的人工智能模型的出现而出现的主要社会、政治、哲学、伦理和经济问题时，这些价值观反过来可以成为人工智能行业其他公司的榜样。
指南和规则
在早期，包括 Anthropic 在内的每个人仍在弄清楚人工智能聊天机器人将在我们的日常生活中扮演的角色。现在很明显，它们不仅仅是问答机器：成群结队的人还使用它们提供健康建议和心理治疗，仅举几个更敏感的例子。
Anthropic 为克劳德制定的新宪法，引用第一部《加勒比海盗》电影的话，“更像是指导方针，而不是实际规则。”
另外：你最喜欢的人工智能聊天机器人充满了谎言
克劳德是什么？
因此，宪法的目的是为了人类的福祉，同时也是为了克洛德本身的潜在福祉。