官方网站-首页

【导(dǎo)语(yǔ)】中(zhōng)国(guó)传(chuán)媒(méi)大(dà)学(xué)程(chéng)皓(hào)楠(nán)指(zhǐ)出(chū)，AI音(yīn)频(pín)生(shēng)成(chéng)技(jì)术(shù)为(wèi)影(yǐng)音(yīn)创(chuàng)作(zuò)带(dài)来(lái)新(xīn)机(jī)遇(yù)的(de)同(tóng)时(shí)，也(yě)催(cuī)生(shēng)了(le)伪(wěi)造(zào)音(yīn)频(pín)等(děng)安(ān)全威(wēi)胁(xié)，如AI合成声音的电信诈骗案件频发。目前人耳分辨真假音频准确率仅七成左右，而AI音频检测技术通过挖掘细微差异，检测准确率已超九成。不过，该技术面临泛化性挑战，应对未知生成手段仍需探索。在AI音频技术迅猛发展的当下，如何同步推进创新与监管成为关键议题。

大家好，我是来自中国传媒大学，媒体融合与传播国家重点实验室的程皓楠，上一集我们讨论了音频生成技术的原理与应用，以及为影音创作带来了新的机遇。

但随之而来的是安全相关的威胁与挑战。随着AI音频生成技术的发展，伪造音频的现象也越来越多。例如，电信诈骗分子引入AI音频生成技术，合成公众人物或者亲友的声音，进行冒名电话诈骗，目前这类新型诈骗案件涉及金额以及达到上亿元，使得防范工作面临着(zhe)前(qián)所未有的挑战。

对于大众来说，如何分辨真假音频呢？

首先，我们可以注意音频(pín)的(de)细(xì)节(jié)。真实的音频往往具有丰富的环境音效和自然的音色变化，而伪造的音频在音色上存在不自然的情况，例如声音清晰度很低，像隔着容器发声，或者存在电流音。另外，现在的音频合成技术在方言模拟方面还存在明显不足，当我们接到疑似诈骗的亲友电话的时候，也可以通过方言沟通，来验证电话对面的人员身份。

但是我们也做过大量的实验(yàn)，选(xuǎn)取(qǔ)了上万条真实录制和AI合成的语音让测试人员进行分辨，结果显示目前人耳主观分辨准确率大概在70%，也就是会有30%的音频是无法准确判断的。这就需要机器具备有“灵敏的耳朵”，通过AI音频检测技术来挖掘音频中的细微差异，来守护声音的真相。

机器具体是如何分辨的呢？

真实的音频在录制过程中会受到环境噪声、设备特性等因素的影响，包含许多独特的特征，比如声波的细微波动、频率响应的特点等。而AI合成的音频(pín)，无(wú)论(lùn)是(shì)通(tōng)过(guò)语(yǔ)音(yīn)合(hé)成(chéng)还(hái)是(shì)音(yīn)效(xiào)编(biān)辑(ji)，都(dōu)会(huì)在(zài)这(zhè)些(xiē)特(tè)征(zhēng)上(shàng)与(yǔ)真(zhēn)实(shí)音(yīn)频(pín)存(cún)在差异。

AI音频检测系统会学习大量的真实音频和伪造音频数据，建立起鉴别模型。例如我们在说话的过程中，会因为停顿、换气有一些静音片段，真实语音与合成语音在这些静音片段中的频谱差异很大，是机器用来鉴别真假语音的一个十分有效的线索。

现在也已经陆续有相关检测平台和工具，比如(rú)我(wǒ)们(men)推(tuī)出的白杨智鉴平台，音频的检测准确率已经可以达到90%以上，可以有效帮助公众鉴别声音信息的真实性。

AI音频鉴别技术核心挑战是什么？

对于音频鉴别技术，它的核心挑战在于一个泛化性问题。因为AI生成技术每天都在层出不穷的产生新技术。我们每次鉴别的时候，如果只知道已知的生成手段，它的生成模型是什么样子的，那我们对于一些未知的生成手段，就很难进行合理有效的鉴别(bié)。针(zhēn)对(duì)这(zhè)样(yàng)的(de)挑(tiāo)战(zhàn)，目(mù)前(qián)我(wǒ)们(men)可(kě)以(yǐ)采用(yòng)什(shén)么(me)样(yàng)的(de)方(fāng)法(fǎ)和(hé)策(cè)略(è)呢(ne)？

那(nà)就(jiù)是(shì)我(wǒ)们(men)聚(jù)焦(jiāo)于(yú)真(zhēn)实(shí)音(yīn)频(pín)，我(wǒ)们(men)不再去挖掘未知的手段存在什么样的特征，而是将目光聚焦在真实语音的共性特征上，把真实语音的特征进行聚类。当我们拿到一段未知的音频时，我们首先会把这段音频的特征和我们对于真实语音的特征聚类进行比对。当它和真实语音特征的差异非常大时，那我们就会认为这段(duàn)音(yīn)频(pín)和(hé)真(zhēn)实(shí)语(yǔ)音(yīn)是(shì)存(cún)在(zài)显(xiǎn)著(zhe)差(chà)异(yì)的(de)。你(nǐ)就(jiù)可(kě)以(yǐ)给(gěi)它(tā)判(pàn)定(dìng)具(jù)有(yǒu)伪(wěi)造(zào)的(de)嫌(xián)疑(yí)。

AI音(yīn)频(pín)生(shēng)成(chéng)技(jì)术(shù)迅(xùn)猛(měng)发(fā)展(zhǎn)，如(rú)何(hé)确(què)保(bǎo)其创新与监管同步推进？

在当下人工智能高速发展的时代，我们应该以积极的态度看待AI音频技术的发展，既要充分利用生成技术带来的机遇，推动文化相关产业的创新发展；又要重视检测技术的研究和应用，建立健全相关的法律法规和技术标准，保障声音信息的真实性和安全性，让AI音频技术真正造福于人类。

本文为·创作培育计划扶持作品

作者：人民日报

审核：贾宁 大连东软信息学院 教授

出品：中国科协科普部

监制：中国科学技术出版社有限公司、北京中科星河文化传媒有限公司

来源: 创作培育计划