上周，共和党全国委员会(Republican National Committee)发布了一份反对拜登的广告，在广告框的左上角有一个小小的免责声明:“完全由人工智能图像构建。，并暗示其价值有限，特别是因为该广告标志着人工智能在政治攻击广告中的首次实质性使用。随着人工智能生成的媒体变得越来越主流，许多人认为基于文本的标签、字幕和水印对透明度至关重要。
但这些标签真的有用吗?也许不是。
要使标签起作用，它必须是可读的。文字是否大到足以阅读?这些词是否容易理解?它还应向受众提供有关如何创建和使用媒体的有意义的背景。在最好的情况下，它还揭示了意图:为什么要把这个媒体放到这个世界上?
长期以来，新闻、纪实媒体、工业和科学出版物都依赖于披露信息，为受众和用户提供必要的背景信息。新闻和纪录片通常使用覆盖文本来引用来源。警告标签和标签在制成品、食品和药品上无处不在。在科学报告中，披露数据和分析是如何获得的是至关重要的。但给合成媒体、人工智能生成的内容和深度造假贴标签往往被视为一种不受欢迎的负担，尤其是在社交媒体平台上。这是一种附加的想法。在错误/虚假信息的时代，这是一种无聊的顺从。
因此，许多现有的人工智能媒体披露做法，如水印和标签，可以很容易地删除。即使他们在那里，观众的眼睛——现在训练有素的快速视觉输入——似乎也看不到水印和信息披露。例如，2019年9月，意大利著名讽刺电视节目《新闻报》(Striscia la Notizia)在社交媒体上发布了前总理马泰奥·伦齐坐在办公桌前，用夸张的手势侮辱当时的执政联盟伙伴马泰奥·萨尔维尼的画面。据deepfakes研究人员亨利·阿杰(Henry Adjer)称，尽管有Striscia水印和明确的文字免责声明，但一些观众认为该视频是真的。
这就是所谓的语境转移:一旦任何媒体，即使是打上标签和水印的，在政治化和封闭的社交媒体群体中传播，它的创造者就会失去对其框架、解释和分享方式的控制。正如我们在Witness和麻省理工学院的合作中发现的那样，当讽刺与深度伪造混合在一起时，往往会造成混乱，就像这个Striscia视频的情况一样。这些简单的基于文本的标签可以创造额外的东西，即任何没有标签的东西都不会被操纵，而实际上，这可能不是真的。
技术人员正在研究快速准确地追踪合成媒体来源的方法，比如加密来源和详细的文件元数据。当涉及到替代标签方法时，艺术家和人权活动家提供了有希望的新方法，通过将标签重新定义为一种创造性行为而不是附加内容，来更好地识别这类内容。
当一个披露被融入媒体本身时，它就无法被移除，它实际上可以被用作一种工具，促使观众理解一篇媒体是如何被创造出来的，以及为什么被创造出来的。例如，在大卫·弗朗斯(David France)的纪录片中，脆弱的受访者在那些用于制作深度伪造的发明的帮助下被数字化伪装。此外，他们的脸周围出现了微妙的光环，这给了观众一个线索，即他们正在观看的图像被篡改了，这些受试者在分享他们的故事时冒着巨大的风险。在肯德里克·拉马尔2022年的音乐录影带中，导演使用深度假技术将拉马尔的脸变成了已故和在世的名人，如威尔·史密斯、o·j·辛普森和科比·布莱恩特。这种技术的使用直接写入了歌曲的歌词和编舞中，就像拉马尔用手在脸上滑动一样，显然表明了深度伪造的编辑。由此产生的视频是对深度造假本身的元评论。
