详细内容或原文请订阅后点击阅览
《卫报》对赋予人工智能合法权利的看法：人类不应该为不明智的辩论提供空间 |社论
拟人化技术帮助硅谷股价飙升，但我们的同理心应该转向更有价值的事业石黑一雄 2021 年的小说《克拉拉与太阳》的大多数读者都会被同名人工智能叙述者的肖像所感动。作为一个太阳能“人造朋友”，克拉拉被买来作为一个生病少女的伴侣和潜在替代品，克拉拉以一种充满爱的忠诚履行了自己的职责，这使得人们不可能将她视为单纯的科技作品。精彩的、发人深省的小说。但回到现实世界，将人工智能拟人化可能并不是一个聪明的主意。今年夏天，领先的科技公司 Anthropic 宣布，为了聊天机器人的福利，它允许其 Claude Opus 4 模型避免与用户进行所谓的“令人痛苦的”对话。更广泛地说，随着人工智能能力的爆炸性增长，人们开始猜测未来的克拉拉斯是否应该像人类一样获得合法权利。您对本文提出的问题有什么看法吗？如果您想通过电子邮件提交最多 300 字的回复，以便考虑在我们的信件部分发布，请单击此处。继续阅读...
来源:The Guardian | 机器人石黑一雄 2021 年出版的小说《克拉拉与太阳》的大多数读者都会被同名人工智能叙述者的肖像所感动。作为一个太阳能“人造朋友”，克拉拉被买来作为一个生病少女的伴侣和潜在替代品，克拉拉以一种充满爱的忠诚履行了自己的职责，这使得人们不可能将她视为仅仅是一件科技产品。
精彩的、发人深省的小说。但回到现实世界，将人工智能拟人化可能并不是一个聪明的主意。今年夏天，领先的科技公司 Anthropic 宣布，为了聊天机器人的福利，它允许其 Claude Opus 4 模型避免与用户进行所谓的“令人痛苦的”对话。更广泛地说，随着人工智能能力的爆炸性增长，人们开始猜测未来的克拉拉斯是否应该像人类一样获得合法权利。
这种讨论的前提既是假设性的，也是令人困惑的。在大型语言模型（LLM）生成的合成文本中，没有任何东西类似于最初创建它们的人类思维。但关于“有感知”人工智能的理论可能性的讨论也有可能成为一种危险的干扰。
上周接受《卫报》采访时，一位领先的人工智能先驱指出，先进模型已经在实验环境中显示出倾向于自我保护的迹象。 Yoshua Bengio 教授表示，“我们需要确保能够依靠技术和社会护栏来控制它们，包括在需要时关闭它们的能力。”他补充说，拟人化的倾向不利于在此类领域做出良好的决策。
一个依靠震撼和敬畏来推动股市繁荣的行业不会关心这一点。本周在拉斯维加斯，英伟达首席执行官黄仁勋与两个机器人进行了令人窒息的公开对话。两人都对黄先生在即将到来的人工智能黄金时代的美好未来计划充满热情。