详细内容或原文请订阅后点击阅览
绘制生成式 AI 的滥用情况
新研究分析了当今多模态生成 AI 的滥用情况，以帮助构建更安全、更负责任的技术。
来源:DeepMind - 新闻与博客责任与安全
映射滥用生成ai
- 出版了2 2024年8月2日，Authorsnahema Marchal和Rachel Xu
新的研究分析了当今多模式生成AI的滥用，以帮助建立更安全，更负责任的技术
可以产生图像，文本，音频，视频等的生成人工智能（AI）模型正在实现创造力和商业机会的新时代。然而，随着这些能力的增长，滥用的潜力也是如此，包括操纵，欺诈，欺凌或骚扰。
作为我们负责任地开发和使用AI的承诺的一部分，我们与Jigsaw和Google.org合作发表了一篇新论文，分析了今天的生成AI技术如何被滥用。 Google各地的团队正在使用此研究和其他研究来为我们的生成AI技术提供更好的保障措施，以及其他安全计划。
我们的承诺 新纸 拼图 Google.org一起，我们收集并分析了近200份媒体报告，捕获了2023年1月至2024年3月之间发表的公共事件的近200个媒体报告。根据这些报告，我们定义并分类了共同的策略，以滥用生成AI，并在如何利用或损害这些技术方面找到了新的模式。
通过澄清不同类型的生成AI输出的当前威胁和策略，我们的工作可以帮助塑造AI治理，并指导Google和其他公司在制定更全面的安全评估和缓解策略时建立AI技术。
突出显示滥用的主要类别
虽然生成的AI工具代表着一种独特而引人注目的手段来增强创造力，但生产定制的内容的能力具有恶意参与者的不适当方式使用的潜力。