作者 | Terry
近两年随着AI技术突飞猛进，今年美国大选中AI技术所带来的影响已经引发了各方的关注，其中AI技术生成的虚假信息更成为了一个不容忽视的问题。
当前，学界、政界和媒体已经统一使用一个专有名词来专门指代AI技术工具所生成的虚假信息，这些都被统称为“Deepfake”，中文直译为深度伪造。
本文将通过马斯克刚刚发布的一则“Deepfake”信息，向大家介绍识别这类虚假信息的有效方法。
马斯克又搞事 发布AI伪造图攻击贺锦丽
9月2日是美国的公众假日劳动节，不过X平台（原推特）的所有者马斯克依然活跃在平台上，还发布了一张攻击美国副总统贺锦丽的AI伪造图。
马斯克的这张照片将贺锦丽与共产主义者直接联系在了一起，暗示其当选后美国的政治走向。马斯克的这一举动引来了广泛的批评，不仅因为他利用AI深度伪造虚假信息来攻击政治对手，更因为他自己的X平台本身已经制订了关于Deepfake信息的管理政策，作为平台的老板，却堂而皇之地违反规则。
X平台关于伪造信息的管理规则
马斯克的举动引来了一些左翼用户的回击，下图就是一名用户同样使用AI工具生成的马斯克与川普亲密互动的Deepfake图片，影射两位独裁者之间亲密无间的关系。
AI深度伪造假图屡次出现 部分内容真假难辨
围绕2024年美国大选的深度伪造信息已经多次出现。去年年底，佛罗里达州长德桑蒂斯在竞选广告中，就曾使用伪造的川普照片和声音来攻击对手。他的团队用AI生成了川普亲吻和拥抱福奇医生的图片，试图利用右翼人群对福奇医生的厌恶来攻击川普。
德桑蒂斯团队使用AI生成的有关川普与福奇医生的虚假信息
今年以来，川普团队频繁使用AI深度伪造的内容来为自己造势。两周前我们曾辟谣过，川普支持者生成了一系列泰勒斯威夫特及其粉丝支持川普的图片，而川普本人也转发了这些虚假图片。
更早之前，一组非裔美国人支持川普的假图也曾在社交媒体上广泛传播，甚至部分中文自媒体还用这些图片来攻击主流媒体。对此我们也曾在“选举舞弊”是虚假指控，但AI将对2024大选带来真切冲击一文中进行过核查。
不仅用假图片造势，他们还污蔑对手的真实照片是AI伪造的。8月初，川普团队就造谣称贺锦丽在底特律机场的竞选活动中，观众是通过AI工具添加上去的。我们之前的文章《声称贺锦丽集会照片是AI生成，否认民调公正：川普已经准备再次拒绝失败》也曾进行过辟谣。
由此不难看出，川普的竞选团队已经把AI深度伪造当作一种进可攻、退可守的工具，成为了其竞选宣传中的一个重要组成部分。
当然，使用AI工具生成虚假内容并非右翼的专利，一些川普的反对者也经常利用AI工具生成一系列的伪造内容来攻击川普，前述那张马斯克和川普亲密互动的图片就是典型例子。双方互有攻守，有时令人真假难辨，这也给普通的社交媒体用户制造了一重新难题。
关于AI深度伪造立法已经开始 实施仍需时间
不仅是媒体和学界一直对相关技术在影响选举方面的滥用表示担忧，美国国会的议员们也发起了多项与AI生成的虚假信息有关的立法进程。在美国国会网站上搜索关键词“Deepfake”，就可以看到一系列与这类信息有关的立法行动。
目前进行中的与AI深度伪造虚假信息有关的立法
不过，这些立法大多还停留在比较早期阶段，距离投票和签署还有很长的距离。目前，到11月的美国大选只有两个月时间了，指望这些仍在冗长立法进程中的法案发挥作用已经来不及，不过，以下这些方法可以帮助大家识别AI深度伪造的虚假信息。
辨别AI生成的深度伪造信息 可以使用以下四招
随着AI技术日趋成熟，伪造的图片或音视频质量在不断提高，成本也在不断下降。比如想要使用X平台的AI工具Grok来生成深度伪造图片，只需要花8美元，购买X的蓝标会员即可。
大量AI生成的影像内容，我们应该如何识别呢？
回归常识
这是分辨深度伪造以及虚假信息的一个基本技巧，也就是说当你看到一张图片超出了常识性的认知，那么在转发分享前，就应当怀疑其真实性。
比如下面这张利用X平台的AI工具Grok生成的米老鼠，拿着烟和酒，还带着MAGA帽子，和大家认知中米老鼠活泼可爱的形象有很大区别，这时就应该怀疑这张图片并非出自米老鼠的版权方迪士尼，再结合第三点我们分享的AI图片鉴别工具，很容易就能识别出来了。
注意细节
部分AI生成的图片中，往往存在一些现实中不可能存在的瑕疵，这时就可以关注图片的细节，来寻找问题。
比如下面这张AI生成的罗马教宗图片就有三处明显的瑕疵。1. 他的眼镜变形，与脸颊、眼睛和阴影融为一体；2. 他的十字架也只有一根链子；手3. 他拿着保温杯的手看不清手指。这些微小的细节能帮助你识别出这是一张用AI生成的图片。
图片事实核查来源：美联社
麻省理工学院的媒体实验室（MIT Media Lab）总结了从技术层面辨别AI深度伪造图片和视频的一些技巧：
注意面部。深度伪造的高端操作几乎都是面部改造。
注意脸颊和额头。皮肤看起来是太光滑还是太皱？皮肤的老化程度是否与头发和眼睛的老化程度相似？深度伪造可能在某些方面不协调。
注意眼睛和眉毛。阴影是否出现在您期望的位置？深度伪造可能无法完全表现场景的自然物理特性。
注意眼镜。是否有眩光？眩光是否太强？人物移动时眩光的角度是否会发生变化？同样，深度伪造可能无法完全表现自然光的物理特性。
注意面部是否有毛发。面部毛发看起来真实吗？深度伪造可能会添加或去除胡子、鬓角或胡须，也可能无法使面部毛发的变化完全自然。
注意面部的痣。痣看起来真实吗？
注意眨眼。眨眼次数是否足够或过多？
注意嘴唇的动作。有些深度伪造是以唇语同步为基础的。唇部动作看起来自然吗？
如果你想测试一下自己的鉴别能力，也可以去下面这个网址进行一个小测验，锻炼一下自己的辨别能力，https://www.realornotquiz.com/
使用鉴定工具辅助辨别
对于一些细节上难以分辨的图片，还可以用辅助鉴定工具来进行分辨。比如下图这张泰勒斯威夫特粉丝支持川普的图片，似乎没有什么明显的瑕疵。
但如果把这张图片上传到isitai.com这一鉴定平台，很快就能判定这是一张AI生成的图片。
同样，将前文提到的两张AI伪造的图片进行上传后，该网站也给出了“AI生成”这一判定信息，
笔者还将一张通过个人手机拍摄的照片上传到了该网站，得出的结果就是人类生成。
用户登录isitai.com后，可以先进行注册，之后就可以使用了。网站目前提供免费服务中，每个月可以为15张图片进行鉴定服务，对于大部分用户来说已经足够了。
除此之外，现在还有其他一些AI图片在线检测网站，比如主要供机构媒体使用的TruthMedia.org，能检测文字、图片和视频的hivemoderation，以及huggingface。多平台交叉对比，可以获得更可靠的反馈。
查找来源
最后，作为信息的消费者，核实信息来源非常重要。当你看到一张群里或社交媒体平台上看到的图片时，首先应该思考它的来源是哪里。必要时，可以在谷歌首页，直接使用下图红框内的图片搜索功能，来追根溯源。
还是用马斯克发布的那张图片来测试，点击谷歌的图片搜索功能，并将该图上传后，接下来的页面中，就能看到这张图片的来源，即红色箭头所指——马斯克的一条推文。
确定了图片来源，有助于我们辨别真伪。如果是来自严肃媒体的文章或账号，一般都会给出图片的原始出处，若是由AI生成的，也会进行标注。而如果是像马斯克或者川普这样经常造谣的人发布的，那么对其发布图片的真实性就应当打一个问号了。
主题测试文章，只做测试使用。发布者：联合网，转转请注明出处：https://www.anesthesia.org.cn/2024/09/05/19100.html
