Fake or real? New research shows AI watermarks can be easily tricked
随着人工智能（AI）继续生成几乎不可能分开的图像，但已提出数字水印作为识别AI生成的内容的一种方式。这些水印（嵌入图像中的悬挂数字标记）旨在帮助我们分辨出什么是真实的和什么是合成的。一种称为语义水印的特殊类型是[…]伪造还是真实？新的研究表明，AI水印很容易被欺骗，首先出现在Knowridge Science报告中。
Elise Racine和更大的影响力 /影响力II /由CC-BY 4.0许可。注意：此处仅使用了原始图像的第三个面板。由T.J. RMIT大学汤姆森；上个月，昆士兰州技术大学的Elif Buse Doyuran和昆士兰州技术大学的让·伯吉斯（Jean Burgess
Uncensored AI Video Generator from Photo (no watermark)
让我们成为现实吧-2025是狂野的。我们有AI叙述的就寝时间故事，列出了杂货清单，现在将我们的幻想角色以视频形式栩栩如生……全部来自照片。这些新的AI视频发电机不再与僵硬的化身或怪异的闪烁模型粘住，因此完全未经审查，零水印，最宽敞的部分？ - 绝对对创造力绝对疯狂。但是坚持。这不是您会被机器人拍打在一起的一些通用列表。没有。这个是个人的。这是给我们那些拖网网络的人，这些工具不会用巨型徽标破坏这一刻或迫使您通过[…]
What is AI ‘watermarking’ and does it work?
上个月，Google宣布了SynthID检测器，这是一种用于检测AI生成内容的新工具。 Google声称它可以在文本，图像，视频或音频中识别AI生成的内容。但是有一些警告。其中之一是该工具目前仅通过候补名单可用于“早期测试人员”。主要捕获是SynthID主要是[…]
Meta Launches Watermarking Tool for AI Videos
为什么重要：Meta 推出了一款用于人工智能视频的水印工具，确保数字内容的透明度、真实性和可信度。
Google now adds watermarks to all its AI-generated content
谷歌的人工智能创作内容现在拥有一个隐形的“签名”。数学密钥可以揭示这个数字水印的存在，称为 SynthID。
Watermarking for AI Text and Synthetic Proteins: Fighting Misinformation and Bioterrorism
Nataliya Smirnova 在 UnSplash 上拍摄的彩色病毒突变图像 人工智能文本和合成蛋白的水印 机器学习工程师了解人工智能在生物领域的应用 错误信息和生物恐怖主义并不是新威胁，但它们的规模和易用性迅速增加。法学硕士让制造挑拨离间自主聊天机器人变得轻而易举，而生成蛋白质设计模型则大大扩大了能够进行生物战的参与者的数量。作为一个社会，我们需要的工具多种多样，但一个重要的组成部分是我们检测它们存在的能力。这就是水印的作用所在。水印或数字水印与用来劫持您孩子的学校照片的物理水印不同，是一种用于识别所有权的秘密信号。有效的水印必须坚固耐用，经得起修改，同时在没有专门方法的情况下无法被检
Can we 'watermark' AI-generated text so we know where it came from?
谷歌研究人员表示，他们已经开发出一种可以给人工智能生成的文本加水印的系统，计算机模型能够区分加水印的文本和人类的书写。该团队表示，他们的策略使用一种算法来巧妙地偏向聊天机器人的词汇选择，这样计算机模型稍后就可以识别出文本是否由人工智能生成。研究人员为他们的技术开发了两条路径 - 一条路径中的水印更容易识别，但文本质量较低，另一条路径可以提高文本质量，但仍然比现有的水印方法更容易检测到。该团队表示，这种技术不需要太多的计算机能力来运行，虽然他们的系统可能会被人们故意改写内容所绕过，但在人工智能透明度方面，这是一个进步。
Google DeepMind is making its AI text watermark open source
Google DeepMind 开发了一种用于识别人工智能生成文本的工具，并将其开源。该工具名为 SynthID，是用于生成人工智能输出的大型水印工具系列的一部分。该公司去年推出了一种用于图像的水印，此后又推出了一种用于人工智能生成的视频的水印。今年 5 月，……
No free lunch in LLM watermarking: Trade-offs in watermarking design choices
生成模型的进步使得 AI 生成的文本、代码和图像能够在许多应用中反映人类生成的内容。水印是一种将信息嵌入模型输出以验证其来源的技术，旨在减轻对此类 AI 生成内容的滥用。当前最先进的水印方案通过稍微扰动 LLM 输出标记的概率来嵌入水印，这可以在验证过程中通过统计测试检测到。不幸的是，我们的工作表明，LLM 水印方案中的常见设计选择使生成的系统出人意料地容易受到水印删除或欺骗攻击——导致在稳健性、实用性和可用性方面做出根本性的权衡。为了解决这些权衡问题，我们严格研究了一组针对常见水印系统的简单但有效的攻击，并提出了 LLM 水印实践中的指导方针和防御措施。提示艾伦图灵出生于... Unwate
MARKLLM: An Open-Source Toolkit for LLM Watermarking
LLM 水印将难以察觉但可检测的信号集成到模型输出中以识别 LLM 生成的文本，这对于防止滥用大型语言模型至关重要。这些水印技术主要分为两类：KGW 系列和 Christ 系列。KGW 系列修改了 LLM 生成的逻辑以创建 […] 文章 MARKLLM：LLM 水印的开源工具包首先出现在 Unite.AI 上。
Meta has created a way to watermark AI-generated speech
Meta 创建了一个系统，可以在 AI 生成的音频片段中嵌入隐藏信号（称为水印），这有助于在线检测 AI 生成的内容。这款名为 AudioSeal 的工具是第一个可以精确定位哪些音频片段（例如，一个完整的一小时播客）可能是由 AI 生成的工具。它可以帮助……
Watermarking AI-generated text and video with SynthID
宣布我们为 AI 生成的文本和视频添加水印的新颖方法，以及我们如何将 SynthID 引入 Google 的主要产品
‘Protected’ Images Are Easier, Not More Difficult, to Steal With AI
新的研究表明，旨在阻止AI图像编辑的水印工具可能适得其反。与其停止稳定扩散之类的模型进行更改，实际上有助于AI遵循编辑提示，从而更加紧密地进行编辑，从而使不必要的操作变得更加容易。计算机视觉文献中有一个著名且强大的链，专门用于保护“受保护”帖子的图像更容易而不是很难，而不是很难偷走AI，首先出现在unite.ai上。
Google tool makes AI-generated writing easily detectable
几个月来，谷歌 DeepMind 一直在 Gemini 聊天机器人的响应上使用其 AI 水印方法——现在它正在向任何 AI 开发人员提供该工具
IEEE Transactions on Neural Networks and Learning Systems, Volume 35, Number 10, October 2024
1) 确定适合机器学习模型的知识产权保护机制：水印、指纹识别、模型访问和攻击的系统化作者：Isabell Lederer、Rudolf Mayer、Andreas Rauber页数：13082 - 131002) 面向可解释的情感计算：综述作者：Karina Cortiñas-Lorenzo、Gerard Lacey页数：13101 - 131213) 从多个角度回顾凸聚类：模型、优化、统计属性、应用和连接作者：Qiying Feng、C. L. Philip Chen、Licheng Liu页数：13122 - 131424) 高光谱图像去噪：从模型驱动、数据驱动到模型数据驱动作者：Qian
