官方网站-首页

【导语】尽管人工智能生成的内容已日益流畅，但其信息的准确性仍面临挑战。内容可靠性问题，包括事实性错误(wù)、低(dī)关联(lián)性(xìng)、偏(piān)见(jiàn)歧(qí)视(shì)及(jí)浅(qiǎn)层(céng)次(cì)模(mó)板(bǎn)化(huà)，成(chéng)为(wèi)亟(jí)待(dài)解(jiě)决(jué)的(de)难(nán)题(tí)。近(jìn)日(rì)，日(rì)本(běn)研(yán)究(jiū)人(rén)员(yuán)在(zài)德(dé)国(guó)《先(xiān)进(jìn)科(kē)学(xué)》杂(zá)志(zhì)发(fā)表(biǎo)的(de)研(yán)究(jiū)成(chéng)果(guǒ)显(xiǎn)示(shì)，人(rén)工(gōng)智(zhì)能(néng)在(zài)提(tí)供(gōng)信(xìn)息(xi)时(shí)可(kě)能(néng)遭(zāo)遇(yù)类(lèi)似(shì)人(rén)类(lèi)的(de)“语(yǔ)言(yán)障(zhàng)碍(ài)”——失(shī)语(yǔ)症(zhèng)。这(zhè)一(yī)发(fā)现(xiàn)不(bù)仅(jǐn)揭(jiē)示(shì)了(le)AI的(de)潜(qián)在(zài)缺(quē)陷(xiàn)，也(yě)为(wèi)改(gǎi)进(jìn)人(rén)工(gōng)智(zhì)能(néng)系(xì)统(tǒng)提(tí)供(gōng)了(le)新(xīn)视(shì)角(jiǎo)。研(yán)究(jiū)有(yǒu)望(wàng)促(cù)进(jìn)神(shén)经(jīng)科(kē)学(xué)对(duì)失(shī)语(yǔ)症(zhèng)的(de)监(jiān)测(cè)与(yǔ)分(fēn)类(lèi)，并(bìng)助(zhù)力(lì)人(rén)工(gōng)智(zhì)能(néng)研(yán)究(jiū)从(cóng)内(nèi)部(bù)架(jià)构(gòu)入(rù)手(shǒu)，提(tí)升(shēng)内(nèi)容(róng)可(kě)靠(kào)性(xìng)与(yǔ)灵(líng)活(huó)性(xìng)。

尽(jǐn)管(guǎn)人(rén)工(gōng)智(zhì)能(néng)生(shēng)成(chéng)内(nèi)容(róng)已(yǐ)非(fēi)常(cháng)流(liú)畅(chàng)，但(dàn)提(tí)供(gōng)的(de)信(xìn)息(xi)很(hěn)多(duō)时(shí)候(hou)还(hái)是(shì)不(bù)准(zhǔn)确(què)。

01 生(shēng)成(chéng)式(shì)人(rén)工(gōng)智(zhì)能(néng)的(de)内(nèi)容(róng)可(kě)靠(kào)性(xìng)

内(nèi)容(róng)可(kě)靠(kào)性(xìng)是(shì)指(zhǐ)生(shēng)成(chéng)式(shì)人(rén)工(gōng)智(zhì)能(néng)产(chǎn)品(pǐn)所(suǒ)产(chǎn)出(chū)内(nèi)容(róng)的(de)可(kě)靠(kào)程(chéng)度(dù)，包(bāo)括(kuò)真(zhēn)实(shí)性(xìng)、关联(lián)性(xìng)、中(zhōng)立(lì)性(xìng)、新(xīn)颖(yǐng)性(xìng)等(děng)。可(kě)靠(kào)性(xìng)风(fēng)险(xiǎn)具(jù)体(tǐ)表(biǎo)现(xiàn)为(wèi)：

一(yī)是(shì)事(shì)实(shí)性(xìng)错(cuò)误(wù)，生(shēng)成(chéng)完(wán)全不(bù)符(fú)合(hé)事(shì)实(shí)、拼(pīn)凑(còu)捏(niē)造(zào)的(de)内(nèi)容(róng)；

二(èr)是(shì)低(dī)关联(lián)性(xìng)，未(wèi)能(néng)根(gēn)据(jù)用(yòng)户(hù)指(zhǐ)令(lìng)生(shēng)成(chéng)有(yǒu)针(zhēn)对(duì)性(xìng)的(de)内(nèi)容(róng)，答(dá)非(fēi)所(suǒ)问(wèn)，生(shēng)成(chéng)的(de)内(nèi)容(róng)属(shǔ)于(yú)边(biān)缘(yuán)性(xìng)信(xìn)息(xi)或(huò)过(guò)时(shí)性(xìng)知(zhī)识(shi)；

三(sān)是(shì)带(dài)有(yǒu)偏(piān)见(jiàn)和(hé)歧(qí)视(shì)，生(shēng)成(chéng)的(de)内(nèi)容(róng)具(jù)有(yǒu)明(míng)显(xiǎn)的(de)种(zhǒng)族(zú)、性(xìng)别(bié)等(děng)方(fāng)面(miàn)的(de)歧(qí)视(shì)，容(róng)易(yì)误(wù)导(dǎo)用(yòng)户(hù)；

四(sì)是(shì)浅(qiǎn)层(céng)次(cì)与(yǔ)模(mó)板(bǎn)化(huà)，生(shēng)成(chéng)的(de)内(nèi)容(róng)套(tào)路化(huà)痕(hén)迹(jī)重(zhòng)，缺(quē)少(shǎo)深(shēn)度(dù)和(hé)新(xīn)意(yì)。

版(bǎn)权(quán)图(tú)片(piàn)，转(zhuǎn)载(zài)可(kě)能(néng)引(yǐn)发(fā)纠(jiū)纷(fēn)

02 新(xīn)研(yán)究(jiū)发(fā)现(xiàn)：AI会(huì)得(de)类(lèi)似(shì)人(rén)类(lèi)的(de)“语(yǔ)言(yán)障(zhàng)碍(ài)”

日(rì)本(běn)研(yán)究(jiū)人(rén)员(yuán)近(jìn)日(rì)在(zài)德(dé)国(guó)《先(xiān)进(jìn)科(kē)学(xué)》杂(zá)志(zhì)发(fā)表(biǎo)的(de)一项研究成果显示，这一问题与人类的语言障碍——失语症类似。新研究成果可以为研究人员改进人工智能提供参考。

智能体、聊天机器人等基于人工智能的工具正越来越多地应用于日常生活。考虑到人工智能模型在提供信息时表现出“高度自信”，如果用户对所讨论主题或领域缺乏足够了解，会很容易把其中的错误信息当成正确的。

版权图片，转载可能引发纠纷

为此，日本东京大学研究人员使用了一种名为“能量景观分析”的方法。这种方法最初由物理学家开发，旨在使磁性金属中的能量状态可视化，最近应用于神经科学。研究人员检查了不同类型失语症患者在静息状态下的大脑活动模式，并将其与几个公开可用的人工智能大语言模型的内部数据比较。

失语症患者可能会很流利地说出一些毫无意义或难以理解的话。研究人员发现，人工智能与此有相似之处。在这些人工智能模型中，数字信息或信号的流动和运作方式与某些失语症患者一些大脑信号的行为方式极为相似。

研究人员说，人工智能模型在出现严重错误时仍表达流畅，这与感觉性失语症的症状有相似之处，即说话流利却总说不出什么意思。这并不意味着聊天机器人有“脑损伤”，但它们可能被锁定在一种僵化的内部模式中，限制其灵活运用所储存知识，就像得了感觉性失语症。

版权图片，转载可能引发纠纷

小结：

一箭双雕的展望：监测失语症、改进AI

研究人员表示，对神经科学来说，这项研究提供了一种可能的新方法，可以根据大脑内部活动而不仅是外部症状来分类和监测失语症等疾病；对人工智能研究来说，这将帮助研究人员从内到外改进人工智能系统的架构。

综合来源：新华网、中国教育新闻网等