详细内容或原文请订阅后点击阅览
2024 年度创新者：Shawn Shan 打造工具帮助艺术家反击剥削性 AI
Shawn Shan 是《麻省理工学院技术评论》评选的 2024 年 35 岁以下创新者之一。认识今年的其他获奖者。当 DALL-E 2、Midjourney 和 Stable Diffusion 等图像生成模型在 2022 年初开启了生成式人工智能热潮时，艺术家开始注意到人工智能生成的图像与他们自己创建的图像之间存在奇怪的相似之处。许多人发现他们的作品……
来源:MIT Technology Review _人工智能现在艺术家正在反击。他们拥有的一些最强大的工具是由26岁的Shawn Shan建造的，他是芝加哥大学计算机科学博士学位的学生（以及MIT Technology Review的2024年年度创新者）。
shan在那里作为本科生的AI安全和隐私开始，并参加了一个建立Fawkes的项目，该项目是一种保护面部侵害面部识别技术的工具。但是，正是与被生成AI繁荣的艺术家进行的对话，使他进入了该领域最大的战斗之一。在了解了对艺术家的影响之后不久，Shan和他的顾问Ben Zhao（2006年在35名以下的创新者列出了35名）和Heather Zheng（2005年列表中的Heather Zheng）决定建立一个工具来提供帮助。他们收集了一千多位艺术家的意见，以了解他们需要什么以及如何使用任何保护技术。
Ben Zhao Clarissa Bonet Shan在Glaze后面编码了算法，该工具使艺术家可以通过AI Mimicry掩盖其个人风格。 Glaze于2023年初发布，去年10月，Shan和他的团队介绍了另一个名为Nightshade的工具，该工具为图像增添了一个看不见的“毒药”层，以阻止图像生成AI模型，如果他们试图将这些图像结合到数据集中。如果将足够的毒药吸引到机器学习模型的训练数据中，它可能会永久破坏模型并使他们的输出无法预测。两种算法都可以通过在破坏机器学习模型来解释它们的方式的图像像素上添加隐形更改来工作。 睡衣 Shan说，对釉的反应既“压倒性和压力很大”。该团队在社交媒体上受到了生成AI助推器的强烈反对，并且有几项尝试打破保护措施的尝试。 与35岁以下的今年创新者见面。 35 下的创新者Clarissa Bonet
Shan在Glaze后面编码了算法，该工具使艺术家可以通过AI Mimicry掩盖其个人风格。 Glaze于2023年初发布，去年10月，Shan和他的团队介绍了另一个名为Nightshade的工具，该工具为图像增添了一个看不见的“毒药”层，以阻止图像生成AI模型，如果他们试图将这些图像结合到数据集中。如果将足够的毒药吸引到机器学习模型的训练数据中，它可能会永久破坏模型并使他们的输出无法预测。两种算法都可以通过在破坏机器学习模型来解释它们的方式的图像像素上添加隐形更改来工作。睡衣