详细内容或原文请订阅后点击阅览
Google DeepMind 正在开源其 AI 文本水印
Google DeepMind 开发了一种用于识别人工智能生成文本的工具，并将其开源。该工具名为 SynthID，是用于生成人工智能输出的大型水印工具系列的一部分。该公司去年推出了一种用于图像的水印，此后又推出了一种用于人工智能生成的视频的水印。今年 5 月，……
来源:MIT Technology Review _人工智能SynthID通过更改代币的可能性来引入生成点。
要检测水印并确定是否通过AI工具生成文本，SynthID比较了在水印和不标记的文本中的单词的预期概率分数。
Google DeepMind发现，使用SynthId Watermark不会损害生成的文本的质量，准确性，创造力或速度。这一结论是从Synthid表演的大规模现场实验中得出的，在将水印部署在其双子座产品中并被数百万人使用。 Gemini允许用户用大拇指或大拇指对AI模型的响应质量进行排名。
Kohli和他的团队分析了约2000万水标水标和不足标记的聊天机器人回复的分数。他们发现用户没有注意到两者之间的质量和实用性差异。当今自然界发表的论文中详细介绍了该实验的结果。目前的SynthID仅适用于Google模型生成的内容，但希望它将扩展其兼容的工具范围。
自然出版 自然SynthID确实有其他局限性。水印对某些篡改具有抵抗力，例如裁剪文本和轻编辑或重写，但是当AI生成的文本被重写或从一种语言转换为另一种语言时，它的可靠性降低了。在提示提示的事实信息（例如法国首都）的提示中，它的可靠性也不太可靠。这是因为在不改变事实的情况下，调整下一个可能的单词的可能性的机会较少。