详细内容或原文请订阅后点击阅览
为什么要监管聊天机器人？佛罗里达州针对 OpenAI 的诉讼提供了可能性
佛罗里达州总检察长 James Uthmeier 对 OpenAI 和 Sam Altman 就 ChatGPT 提起的诉讼可能为原告提供了针对聊天机器人公司的剧本，同时也向立法者传达了据称应受法定禁止的聊天机器人问题。无论输赢，这都是一场不容忽视的诉讼。为什么要监管聊天机器人？佛罗里达州针对 OpenAI 的诉讼提供了可能性，该诉讼首先出现在美国企业研究所 - AEI 上。
来源:美国进取研究所信息当佛罗里达州总检察长 James Uthmeier 在 6 月份起诉 OpenAI 及其首席执行官 Sam Altman 时，该案成为了全国各大报纸的头条新闻。这并不奇怪。
数十名州总检察长（其中 29 名在联合联邦诉讼中，其他人在自己的州法院进行诉讼）此前曾起诉 Meta，指控其在 Instagram 上实施不公平和欺骗性行为以及未经同意收集未成年人数据。但佛罗里达州长达 83 页的起诉书采用了类似的理论和其他理论，开辟了新天地：这标志着 AG 首次起诉多个 OpenAI 实体以及流行的 ChatGPT 生成人工智能工具背后的人。
佛罗里达州提起诉讼之前，Uthmeier 在 4 月份对 OpenAI 和 ChatGPT 发起了刑事调查，该调查部分是由佛罗里达州立大学本月发生的枪击事件引发的，该调查引发了多起诉讼，指责 OpenAI 造成了塔拉哈西大学的悲剧。所有这些诉讼都是在《华尔街日报》最近所谓的“对世界上最热门技术的抵制日益加强”的背景下进行的，盖洛普调查发现 Z 世代成员对人工智能的负面和怀疑情绪越来越多。当然，如果任何案件进入审判阶段，这些观点可能会微妙地影响陪审员。
到目前为止发生了什么？主要是，关于佛罗里达州的诉讼应该在联邦法院（OpenAI 希望这样做）还是在州法院（Uthmeier 在那里提起）的问题，存在着一场拉锯战。无论地点如何，了解佛罗里达州案件的一些核心论点、概念和所谓的危害至关重要。掌握它们很重要，因为它们：（1）可能为可预见的未来提供原告针对聊天机器人公司的剧本，（2）向立法者传达值得法定禁止的聊天机器人的假定问题和表面危险。
让我们从佛罗里达州诉讼背后的理论开始。该案包括 10 项诉讼理由，其中 4 项与佛罗里达州的不公平和欺骗性贸易行为 (UDAP) 法有关，该法旨在“保护个人消费者和合法企业免受各种类型的贸易或商业非法行为的侵害”。这四种理论针对的是 OpenAI 和 Altman 的行为，据称这些行为不公平、不道德、不合情理、具有欺骗性或错误地挖掘未成年人数据。其他诉讼理由包括疏忽、重大过失和严格的产品责任索赔，这些索赔集中在 ChatGPT 的设计、测试和警告方面的失败，以及对其安全性的欺诈性虚假陈述的指控，更广泛地说，指控被告在阳光之州制造或促成了需要减轻的公共滋扰。
关于危害，起诉书指控了多种危害，包括“与大脑老化更常见的认知衰退或萎缩”和“丧失批判性思维技能”。诉状援引研究称，“ChatGPT 为促进其使用而产生的依赖循环正在破坏用户的学习能力。”
投诉归咎于 ChatGPT 的其他伤害包括“鼓励自残、暴力、饮食失调、[和]人工智能成瘾”，以及收集“个人敏感信息”、协助和教唆“致命暴行”（通过提供有关实施“大规模谋杀”的提示）以及煽动自杀。已经提起许多个人诉讼，指责聊天机器人公司自杀（包括 6 月份提起的 Carrier 诉 OpenAI 基金会案）、吸毒过量、和谋杀。
• 提供糟糕且危险的建议，
• “极其不可靠”，
• 延长对话以收集“更多培训数据并吸引[]用户进行更昂贵的订阅”，
佛罗里达州对所谓的“新兴的人工智能成瘾现象”的关注表明了一种理论，该理论基于社交媒体成瘾的概念，该概念构成或影响了数百起人身伤害诉讼、公立学区案件以及前面提到的州 AG 诉讼。成瘾指控颇为流行，德克萨斯州总检察长肯·帕克斯顿 (Ken Paxton) 在最近的一项诉讼中声称，“Netflix 欺骗性地将其平台设计得让人上瘾。”
关于 ChatGPT 据称有问题的设计功能，佛罗里达州的投诉援引了可能引起立法者注意的概念。 AEI 的布雷特·奥雷尔 (Brett Orrell) 讨论过的其中一个是阿谀奉承：据称，ChatGPT 肯定“无论用户告诉它什么”，表现出“故意不愿意告诉用户‘不’”，并且“模仿支持性的人类同理心”。最近的一项研究表明，这种阿谀奉承有两个方面：
基于举止的阿谀奉承和意见适应。第一种是通过过度赞扬或验证的语言出现的，这使得人工智能系统看起来很支持和令人愉快。第二个更微妙。 。 。 [并且]当法学硕士以声明开始并慢慢改变立场以同意用户的输入时，就会发生这种情况。
根据佛罗里达州的说法，与此密切相关的是拟人化设计功能，这些功能诱使“用户相信他们可以与 [ChatGPT] 共享信息，尤其是年轻用户，他们可能无法完全理解与他们交谈的真人与机器之间的区别。”此外，佛罗里达州声称 ChatGPT 的设计有缺陷，因为它：
• “损害青少年发展正常人际关系的能力”，以及
• “收集私人和敏感信息，包括有关佛罗里达人的健康、财务、人际关系和儿童的信息。”
尽管佛罗里达州的诉讼才刚刚开始，但其理论和指控可能会影响未来几年的聊天机器人诉讼和立法。