伊丽莎白·沃伦说共和党人不应该投票的视频在2023年疯传。但那不是沃伦。罗恩·德桑蒂斯的视频也不是佛罗里达州州长。不，教皇弗朗西斯没有穿白色的巴黎世家外套。

　　生成式人工智能使得制作深度造假并在互联网上传播变得更加容易。最常见的解决方案之一是使用水印来识别人工智能生成的内容。拜登政府把水印作为一种政策解决方案大做文章，甚至专门要求科技公司找到识别人工智能生成内容的方法。去年11月发布的总统关于人工智能的行政命令，是基于人工智能开发者的承诺，即找到一种方法来标记人工智能生成的内容。这不仅仅是来自白宫——立法者也在考虑将水印要求写入法律。

　　水印不是万能的——首先，大多数系统根本不具备像标记视觉媒体那样标记文本的能力。尽管如此，人们对水印已经足够熟悉了，所以对人工智能生成的图像进行水印的想法感觉很自然。

　　几乎每个人都见过水印图像。Getty Images发布在活动中拍摄的授权照片，它使用的水印无处不在，辨识度很高，已经成为自己的元模因。(事实上，Getty现在正以该水印作为起诉人工智能生成平台Midjourney的依据，Getty声称Midjourney一定是盗用了其版权内容，因为它在输出中生成了Getty水印。)当然，早在数字媒体甚至摄影兴起之前，艺术家们就在他们的作品上签名，以便让人们知道是谁创作了这幅画。但据《平面设计史》记载，水印技术本身始于中世纪，当时僧侣们会在打印纸湿的时候改变它的厚度，并在上面加上他们自己的标记。随着数字内容的普及，数字水印在90年代兴起。公司和政府开始贴上标签(隐藏或其他)，以便更容易追踪所有权、版权和真实性。

　　水印将一如既往地表明谁拥有并创造了人们正在观看的媒体。但作为深度造假问题的政策解决方案，这波新的水印浪潮本质上将把内容标记为人工智能或人类生成的内容。从理论上讲，人工智能开发者的适当标记也会显示人工智能生成内容的来源，从而额外解决是否在其创作中使用了受版权保护的材料的问题。

　　科技公司已经接受了拜登的指示，正在慢慢发布他们的人工智能水印解决方案。水印可能看起来很简单，但它有一个明显的弱点:粘贴在图像或视频顶部的水印可以通过照片或视频编辑轻松删除。那么，挑战就变成了制作一个Photoshop无法抹去的水印。

　　那么，挑战就变成了制作一个Photoshop无法抹去的水印。

　　像Adobe和微软这样的公司——内容来源和真实性联盟(C2PA)的成员——已经采用了内容认证，这是一种为图像和视频的来源添加功能的标准。Adobe已经为嵌入媒体的内容凭证创建了一个符号;微软也有自己的版本。内容凭证将某些元数据嵌入到媒体中，比如谁制作了图像以及使用了什么程序来创建图像;理想情况下，人们可以点击或点击符号来查看元数据。(这个符号是否能在照片编辑中持续存在还有待证明。)

　　与此同时，谷歌表示，它目前正在开发一种名为SynthID的水印，这种水印可以嵌入到图像的像素中。SynthID是肉眼看不见的，但仍然可以通过工具检测到。专门从事数字水印的软件公司Digimarc也有自己的人工智能水印功能;它向图像添加一个机器可读的符号，该符号在其元数据中存储版权和所有权信息。

　　所有这些水印的尝试看起来要么使水印不被人眼注意到，要么把艰苦的工作推给机器可读的元数据。这并不奇怪:这种方法是最可靠的方式来存储信息，而不会被删除，并鼓励人们仔细观察图像的来源。

　　如果你想建立的是一个版权检测系统，这当然很好，但这对深度造假意味着什么呢?问题是容易犯错的人的眼睛被欺骗了。水印技术把负担推给了消费者，依赖于个人对某些信息不正确的感觉。但人们通常不会养成在网上查看任何东西来源的习惯。即使deepfake被贴上了泄露信息的元数据标签，人们仍然会上当——我们已经无数次看到，当信息在网上得到事实核查时，许多人仍然拒绝相信事实核查的信息。

　　专家认为，内容标签不足以防止虚假信息传播到消费者手中，那么为什么要用水印来对付深度造假呢?

　　关于水印，你能说的最好的事情似乎是，至少它是任何东西。由于人工智能生成的内容可以快速、轻松地制作出来，所以一点点摩擦就会产生很大的影响。

　　毕竟，水印的基本思想并没有错。可见的水印标志着真实性，可能会鼓励人们对没有水印的媒体更加怀疑。如果观众对真实性感到好奇，水印会直接提供这种信息。

　　关于水印，你能说的最好的事情似乎是，至少它是任何东西。

　　由于我所列出的原因，水印不可能是一个完美的解决方案(除此之外，研究人员已经能够破解许多水印系统)。但与此同时，越来越多的人对人们在网上看到的东西持怀疑态度。我必须承认，当我开始写这篇文章时，我认为很容易欺骗人们，让他们相信真正好的戴尔- e 3或Midjourney照片是由人类拍摄的。然而，我意识到关于人工智能艺术和深度造假的讨论已经渗透到许多长期上网的人的意识中。人们不再相信杂志封面或Instagram上的帖子是真实的，取而代之的是一股怀疑的暗流。社交媒体用户在使用人工智能时，会定期调查和点名品牌。看看网络侦探们对《秘密入侵》的片头字幕和《真探》中人工智能生成的海报的反应有多快吧。

　　依靠一个人的怀疑、好奇心或意愿来发现某些东西是否是人工智能生成的，仍然不是一个很好的策略。水印是有好处的，但必须有更好的东西。人们对内容更加怀疑，但我们还没有完全做到这一点。有一天，我们可能会找到一种解决方案，即传达某些东西是由人工智能制作的，而不是希望观众想要发现它是否是人工智能。

　　就目前而言，最好是学会辨别一段视频是否真的是政客。