官方网站-首页

【导语】随着AI技术的飞速发展，AI生成的文章、图片和视频作品日益增多。在享受AI带来的便捷时，人们也不禁好奇：平台是如何识别出这些AI作品的呢？本文将从AI生文、AI生图和AI生视频三个方面，深入探讨AI作品(pǐn)的(de)识(shi)别(bié)方(fāng)法(fǎ)与(yǔ)技(jì)术(shù)挑(tiāo)战(zhàn)，同(tóng)时(shí)关注(zhù)AI技(jì)术(shù)对(duì)人(rén)类(lèi)语(yǔ)言(yán)和(hé)思(sī)维(wéi)方(fāng)式(shì)的(de)潜(qián)在(zài)影(yǐng)响(xiǎng)。

随(suí)着(zhe)AI技(jì)术(shù)的(de)不(bù)断(duàn)发(fā)展(zhǎn)，其(qí)生(shēng)成(chéng)的(de)文章(zhāng)、图(tú)片(piàn)和(hé)视(shì)频(pín)作(zuò)品越来越多，比如我们在刷短视频时，常常会看到这样的提示：内容疑似AI生成。每次看到这，有人难免产生疑问，平台是怎么识别(bié)出(chū)来(lái)的(de)？肉(ròu)眼看到的明明是真人啊，为啥怀疑是AI作品呢？

AI生文

一般情况下，单纯由AI生成的文章可能较难被直接识别出来。然而，AI生成的文字往往在语言表达和逻辑结构上展现出一种模式化的特征(zhēng)，一(yī)旦(dàn)大(dà)量(liàng)复(fù)制(zhì)此(cǐ)类(lèi)内(nèi)容(róng)，或(huò)是(shì)作品的语言风格、结构等与AI生成的典型模式高度吻合，就有可能被识别出来。

西湖大学工学院副院长、国际自然语言处理领域知名专家张岳表示，机器的思考偏向“统计性”，而人类的思考里除了“统计性”，还有“因果性”。人(rén)类(lèi)能(néng)从(cóng)经(jīng)验(yàn)中(zhōng)提炼因果逻辑，而AI缺乏这种认知深度。具体体现在当遇到困难，人类会反思，但这种能力大模型尚不具备。

以写文章为例，AI的写法是学习现有的数据，从中挑选最“安全”的词，也就是按照概率高低来选词，这和人类写作的创造性有本质区别。例如在“我吃了一顿……”这个句式中，机器往往会在“吃”这一动词后使用搭配概率较高的“饭”，但人类可能会说：“我吃了一顿美味。”

再比如，只学过三位算数的AI并不能保证四位算数的准确率。或者，生成文本时，若遇到训练数据外的场景，AI可能编造出看似合理实则虚构的“幻觉内容”，杜撰出一篇不存在的论文。这样的“致命伤”导致AI在虚拟世界的“聪明”和在物理世界的“笨拙(zhuō)”形(xíng)成(chéng)了(le)鲜(xiān)明(míng)对(duì)比(bǐ)。

还(hái)有(yǒu)一(yī)些(xiē)反(fǎn)作(zuò)弊(bì)手(shǒu)段(duàn)，比(bǐ)如(rú)某(mǒu)些(xiē)学(xué)校(xiào)或(huò)考(kǎo)试(shì)机(jī)构(gòu)，通(tōng)过(guò)查(chá)重(zhòng)系(xì)统(tǒng)等(děng)来(lái)检(jiǎn)测(cè)作(zuò)文是(shì)否(fǒu)存(cún)在(zài)抄(chāo)袭(xí)或(huò)大(dà)量(liàng)使(shǐ)用(yòng)AI生(shēng)成(chéng)的(de)情(qíng)况(kuàng)，如(rú)果(guǒ)作(zuò)文与(yǔ)已(yǐ)有(yǒu)大(dà)量(liàng)文本(běn)相(xiāng)似(shì)度(dù)较(jiào)高(gāo)，就(jiù)可(kě)能(néng)被(bèi)判(pàn)定(dìng)为(wèi)违(wéi)规(guī)。某(mǒu)些(xiē)作(zuò)文中(zhōng)出(chū)现(xiàn)大(dà)量(liàng)过(guò)于(yú)流(liú)畅(chàng)、缺(quē)乏(fá)个(gè)性(xìng)的(de)语(yǔ)句(jù)，或(huò)者(zhě)逻(luó)辑(ji)过(guò)于(yú)规(guī)整(zhěng)而(ér)缺(quē)乏(fá)真(zhēn)实(shí)思(sī)考(kǎo)的(de)痕(hén)迹(jī)等(děng)，都可能引起怀疑。

AI生图

早期，AI生图的技术并不完美，经常会留下操纵迹象。信也科技算法科学家吕强表示，通过肉眼分辨图片是否为合成，可以重点观察图片中的细节，例如观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等，如果一个眼睛看前、一个眼睛看左就有问题。另外，生成的照片通常在光影上存在瑕疵，并缺乏照片基本参数，例如曝光等。但随着AI的进步，这种观察变得困难。

不过，研发这些AI图片检测软件的工作人员尤其注意到，如果要辨别一张人像的真伪，通过分析图像中人物的眼睛细节会是一种非常有效的方法。

人类的眼睛构造非常复杂，在光的折射下，人眼的反射角度、瞳孔的变化都会有很多细节的不同。现在的技术已经发展到可以从一段真实视频中的人物眼睛反射的“镜中像”，来分析人物所处环境甚至看到人物对面站着的人脸等细节。但目前“AI生成”的图片中，人像的眼睛是不可能保存这样的细节的，简单地说，看一张“AI生成”人像的眼球瞳孔的形状就可以一眼辨别真伪，因为真实的照片中人眼瞳孔形状通常是规则的圆形或者椭圆形，而AI照片中瞳孔形状大多是不规则的。

吕强指出，一种更高效的方法是采用AI对抗AI。通过AI识别，首先需要构建一个包括真图和假图的训练数据集，再利用大模型学习两类图片的不同特征，例如用AI学习图片曝光细节，“一张很灰暗的图片出现了一张整体偏白的人脸，这张图片可能就是经过人脸替换的。但有些人对光线不敏感，人眼可能就识别不出来。”当大模型拥有了各类细节的识别能力后，“把这些能力汇总起来，就构成了一个真假图片的辨别矩阵，然后对矩阵结果打分，最终给出来一个真假图片的评判结果。”不过，他也表示，利用AI识别生成图片，算法复杂度并非难点，挑战在数据：一是可能没有那么多假样本，二是要想让假样本覆盖到很多领域也有挑战。

AI生视频

目前，大多数视频都可以用AI生成，只不过这里很让人头疼的当属“换脸”视频，令人防不胜防，特别是对那些不太了解AI的人，一骗一个准儿，事后还要摇着脑袋说，这肯定不是AI。

事实上，AI 伪造视频所用的技术并不是最近才出现的，上世纪九十年(nián)代(dài)学(xué)术(shù)界(jiè)就开始了面部替换和图像生成相关技术的研究。2014 年，伊恩·古德费洛（Ian Goodfellow）提出了生成对抗网络（GAN，Generative Adversarial Network），使(shǐ)得(de)计(jì)算(suàn)机(jī)可(kě)以(yǐ)生(shēng)成(chéng)更(gèng)为(wèi)逼(bī)真(zhēn)且(qiě)高(gāo)质(zhì)量(liàng)的(de)图(tú)像(xiàng)。随(suí)着(zhe)相(xiāng)关技(jì)术(shù)不(bù)断(duàn)进(jìn)步(bù)，AI不(bù)仅(jǐn)生(shēng)成的视频分辨率更高、面部表情同步更自然，而且所需的数据更少、训练时间更短。

那么如何识别和检测一段视频的真伪呢？最简单的方法还是我们的“经验判断”——即用肉眼仔细分辨，还是能看出视频中人物的一些异常，比如面部表情的扭曲或眼神的不自然、眨眼次数过少、人物面部边缘模糊或者与背景的过渡明显不自然，甚至是人脸的光影效果与周围环境的光线情况不符等。

另外，在视频通话时，如果你无法分辨眼前与你视频通话的人是真是假，可以要求对方用手指按一按自己脸颊或鼻翼，因为目前已知的人脸仿冒技术，还不能仿冒人脸在受到外部压力时产生的变形，如果变形明显不正常，就可以判定对方是“换脸人”。或者可以在自己的手机上安装相关的“打假”软件，来检测视频的对方皮肤的颜色是否会随正常的人类心跳频率保持一致地有规律变化。

也许在不久的将来，这些招数都不好用了，因为这些异常可能会随着技术本身的不断提升变得越来越“正常”，我们(men)已(yǐ)经(jīng)不(bù)能(néng)完(wán)全相(xiāng)信(xìn)自(zì)己(jǐ)的(de)肉(ròu)眼(yǎn)判(pàn)断(duàn)了(le)。

在(zài)国(guó)内(nèi)，有(yǒu)些(xiē)企(qǐ)业(yè)将(jiāng)特(tè)定(dìng)信(xìn)息(xi)嵌(qiàn)入(rù)到(dào)多(duō)模(mó)态(tài)的(de)数(shù)字(zì)载(zài)体(tǐ)中(zhōng)，支(zhī)持(chí)图(tú)像(xiàng)、视(shì)频(pín)、音频、文本等多模态数字载体，可以隐蔽嵌入水印信息，不影响原始内容质量和用户感知，同时抵御攻击，以免被删除或修改。这类技术应用到软件中，那么识别AI视频就会变得更加容易。

尽管当前的技术大幅提高了对AI生成文本识别的准确性，但张岳坦言，不久的将来，AI可能会发展出“反侦察”技术，从而提高内容识别难度，人与机器之间这种“矛”与“盾”的攻防角色会不断互换、演进。

令人担忧的是，当人类吸收的语料中越来越多混杂入AI生成内容，人类的语言会不会越来越接近AI？张岳表示，随着互联网上AI生成内容的不断增加，一批与AI相伴而生的年轻人可能会逐步学习AI的表达风格。但人类的表达始终具有“因果性”，目前与AI还存在本质区别。而未来，AI可能学会像人一样思考，届时识别难度可能更高。

编辑：晴晨本文综合整理自文汇报、潮新闻、羊城晚报、澎湃新闻等本文封面图及文内图片均由即梦AI生成。