详细内容或原文请订阅后点击阅览
Grok 为塑造年轻女孩穿着“性感服装”的形象而道歉
在生成了可能违反美国儿童性虐待材料法的内容后，Grok 再次强调了人工智能护栏的无效性。
来源:Malwarebytes Labs 博客另一个设计强大且引人入胜的人工智能系统最终说明了当开发速度和功能竞赛超出安全控制范围时护栏如何经常失败。
在 X 上的一篇帖子中，人工智能聊天机器人 Grok 证实它生成了一张穿着“性感服装”的年轻女孩的图像。
可能违反美国有关儿童性虐待材料 (CSAM) 的法律，这表明人工智能聊天机器人明显缺乏护栏。或者，至少，护栏远没有我们希望的那么有效。
马斯克聊天机器人背后的公司 xAI 正在审查该事件，“以防止将来出现问题”，据报道，负责该提示的用户的帐户已被暂停。 据报道，Grok 在 X 上的另一篇帖子中将该事件描述为一个孤立的案例，并表示在发现“安全措施漏洞”后，正在发布紧急修复程序。
假期期间，我们讨论了在没有充分安全测试的情况下匆忙推出人工智能开发和功能时风险如何增加。我们不断挑战人工智能的极限，其速度比我们确保其安全的速度更快。可以使未成年人性化的视觉模型正是那种在没有严格的滥用测试的情况下永远不应该投入使用的部署。
因此，虽然一方面我们看到由于国家和州内容限制而出现的地理封锁，但与最受欢迎的社交媒体平台之一相关的人工智能未能阻止许多人认为比立法者目前试图监管的内容严重得多的内容。实际上，集中式年龄验证数据库成为违规目标，但仍然无法阻止人工智能工具生成滥用材料。
女性也报告成为 Grok 图像生成功能的目标。 One X 用户发推文：
“一觉醒来，有这么多评论要求 Grok 让我穿上丁字裤/比基尼，结果有这么多书签。更糟糕的是，我进入 Grok 页面，看到粘糊糊的、恶心的下等人对孩子们的照片这样做。真的很恶心。”