不是人类 — 人工智能：加州迫使聊天机器人泄露秘密

加州已正式要求聊天机器人坦白。

从 2026 年开始，由于州长 Gavin Newsom 本周签署了一项新法律，任何可能被误认为是人的对话式人工智能都必须明确表明它不是人类。

明确表明它不是人类

这项名为参议院第 243 号法案的措施是美国首个此类措施，一些人称此举是人工智能透明度的里程碑。

参议院法案 243 一些人称人工智能透明度具有里程碑意义

这条法律听起来很简单：如果你的聊天机器人可能会欺骗某人，让他认为这是一个真人，它就必须承认。但细节却很深入。

它还引入了针对儿童的新安全要求，要求人工智能系统每隔几个小时提醒未成年人他们正在与人工实体聊天。

此外，公司需要每年向州自杀预防办公室报告其机器人如何应对自残披露。

预防自杀办公室

这与一年前随心所欲的人工智能格局相比是一个急剧的转变，它反映了全球对人工智能对用户情感影响日益增长的焦虑。

这反映出全球对人工智能对用户情感影响日益增长的焦虑

你会认为这是不可避免的，对吗？毕竟，我们已经达到了人们与聊天机器人建立关系的地步，有时甚至是浪漫的关系。

“善解人意的助手”和“欺骗性的幻觉”之间的区别已经变得微乎其微。

这就是为什么新规则还禁止机器人冒充医生或治疗师——不再有 AI 菲尔博士时刻。

州长办公室在签署该法案时强调，这是保护加州人免受操纵或误导性人工智能行为影响的更广泛努力的一部分，该州更广泛的数字安全倡议中概述了这一立场。

保护加州人免受人工智能操纵或误导行为的侵害 在该州更广泛的数字安全倡议中概述 清楚地标记人工智能生成的内容 旨在遏制深度造假和虚假信息的透明度法案 人工智能法案 太好了