谷歌为人工智能生成的图像制作了隐形水印

人工智能生成的图像越来越逼真，这将使发现深度伪造和其他类型的基于图像的虚假信息变得更加困难。但是谷歌的深度思维团队认为它可能有一个解决方案：一种叫做SynthID的特殊水印工具。

SynthID本周在Google Cloud Next上宣布，它是Google Cloud和Google DeepMind团队的合作伙伴。谷歌云的生成式AI平台Vertex AI已经推出了Image测试版。目前，它只适用于谷歌的DALL-E 2类文本到图像生成器Imagen，但该公司正在考虑将类似技术引入网络上的其他生成式AI模型。

根据DeepMind团队的公告博客文章，SynthID的工作原理是将“数字水印直接嵌入图像的像素中，使其人眼无法察觉，但可以检测到以进行识别。”这是他们试图找到“难以察觉和图像处理稳健性之间的正确平衡”一个艰难的挑战，但却是一个重要的挑战。

正如DeepMind团队在公告中解释的那样，“虽然生成性人工智能可以释放巨大的创造潜力，但它也带来了新的风险，比如让创作者能够有意或无意地传播虚假信息。”建立某种系统来帮助人们和平台识别人工智能生成的内容对于阻止虚假信息的扩散至关重要。

研究人员声称，传统的水印——比如应用在库存照片顶部的标志——不适合人工智能生成的图像，因为如果它们很小，它们可以用很少的努力被编辑掉，如果它们又大又明显，它们“对创意或商业目的提出了美学挑战”（换句话说，它们看起来真的很丑。）

类似地，虽然过去曾尝试开发难以察觉的水印，但DeepMind研究人员声称，调整图像大小等简单操作就足以去除它们。

SynthID使用两个相关的基于深度学习的人工智能模型工作：一个用于为每张图像添加水印，一个用于识别水印。这两个模型在同一个“不同的图像集”上一起训练，生成的组合模型经过优化，既使水印对人类尽可能难以察觉，又易于被人工智能识别。

[相关：《纽约时报》是最新与人工智能刮刀作战的报纸]

至关重要的是，SynthID经过训练，即使在原始图像经过编辑后，也能检测嵌入的水印。像裁剪、翻转或旋转、添加滤镜、更改亮度、颜色或对比度或使用有损压缩算法这样的事情不会从图像中删除水印——或者至少不会让SynthID仍然无法检测到它。虽然可能有一些方法可以通过积极的编辑来解决这个问题，但它应该对大多数常见的修改都非常强大。

作为进一步的护栏，SynthID有三个置信度。如果它检测到水印，您可以相当确定Imagen是用来创建图像的。同样，如果它没有检测到水印，并且图像看起来不像是经过令人难以置信的编辑，则图像不太可能是Imagen创建的。但是，如果它可能检测到水印（或者可能是图像中类似SynthID水印的区域），那么它会抛出警告以谨慎对待它。

SynthID不是深度伪造的即时修复程序，但它确实允许道德创作者给他们的图像添加水印，这样它们就可以被识别为人工智能生成的。如果有人使用文本到图像工具故意创建虚假信息，他们不太可能选择将他们的图像标记为人工智能生成的，但至少它可以防止一些人工智能图像被断章取义地使用。

DeepMind团队的目标是让SynthID成为识别人工生成数字内容的“广泛方法”的一部分。虽然它应该是准确有效的，但元数据、数字签名和简单的视觉检查仍将是识别这些类型图像的一部分。

展望未来，该团队正在收集用户的反馈，并寻找改进SynthID的方法——毕竟它仍处于测试阶段。他们还在探索将其与其他谷歌产品集成，甚至“在不久的将来”将其发布给第三方他们的最终目标是l可审计：生成人工智能就在这里，因此使用它们的工具需要授权“个人和组织负责任地使用人工智能生成的内容”否则我们将被许多可能的虚假信息所困扰。