官方网站-首页

【导语】近日，《自然·人类行为》发表的一项研究发现，GPT-4等大语言模型在在线辩论中，若根据对手个性化信息调整论据，其说服力可高出人类64%。这一发现揭示了AI影响人类观点的潜力，并警示了信息操控的风险。研究呼吁重视AI伦理，构建新的人机共生的信息环(huán)境(jìng)。

《自(zì)然(rán)·人(rén)类(lèi)行(xíng)为(wèi)》19日(rì)发(fā)表(biǎo)的(de)一(yī)项(xiàng)人(rén)工(gōng)智(zhì)能(néng)（AI）研(yán)究(jiū)发(fā)现(xiàn)，在(zài)线(xiàn)辩(biàn)论(lùn)中(zhōng)，GPT-4一(yī)类(lèi)的(de)大(dà)语(yǔ)言(yán)模(mó)型(xíng)（LLM）如(rú)能(néng)根(gēn)据(jù)对(duì)手(shǒu)的(de)个(gè)性(xìng)化信息调整它们的论据，其说(shuō)服(fú)力(lì)比(bǐ)人(rén)类(lèi)辩(biàn)手(shǒu)高(gāo)出(chū)64%。研(yán)究(jiū)结(jié)果(guǒ)显(xiǎn)示(shì)了(le)GPT-4生(shēng)成(chéng)有(yǒu)针(zhēn)对(duì)性(xìng)和(hé)说(shuō)服(fú)力(lì)论(lùn)据(jù)的(de)能(néng)力(lì)，揭(jiē)示(shì)出(chū)AI工(gōng)具(jù)拥(yōng)有(yǒu)影(yǐng)响(xiǎng)人(rén)类(lèi)观(guān)点(diǎn)的(de)潜(qián)力(lì)，同(tóng)时(shí)也(yě)提(tí)出(chū)应(yīng)进(jìn)一(yī)步(bù)研(yán)究如何降低其说服人类时存在的风险。

随着人类与LLM的对话日益普遍，有研究显示LLM或变得更有说服力（即更能改变一个人的信念或观点）。然而，之前并不清楚这些模型是否能根据个性化信息调整，提出更能针对辩论对手的论点。

瑞士洛桑联邦理工学院研究团队此次将900名美国人分别与另一名人类或GPT-4配对。双方辩论各种社会政治议题，如美国是否应该禁用化石燃料。在有些配对中，辩论对手（无论是AI还是人类）能获得关于他们辩友的人口统计学信息，包括其性别、年龄、族裔、教育水平、就业状况，以及从参与者调查中获取的立场，从而让其论点更有针对性。

实验设计示意图。图片来源：英国《自然·人类行为》在线版

辩论在受控的在线环境中进行，并通过一个众包平台为该研究专门招募参与者。研究团队发现，在得知参与者的个人信息后，GPT-4的说服力比人类对手高64.4%。如果没有获得个人数据，GPT-4的说服力与人类不相上下。

研究团队指出，该研究存在一定局限性，包括辩论采取了一种结构性方法，而在现实世界中辩论的自由度更高，而且辩论有时间限制。他们认为，这一研究对AI影响人类观点的潜力和风险有重要提示，也对未来在线平台的设计具有借鉴意义。

【总编辑圈点】

其实，人类对“说服”的研究由来已久，也提出过多种可能影响说服力的因素，比如说服者的身份、信息的呈现顺序、传播渠道和受众特征等。现在，“搅局者”来了。当你的“对方辩友”是AI时，一旦它知道你的个人信息，便能为你量身打造一套话术，精准直击痛点。这样一来，信息操控的风险显著提升，你可能不知不觉陷入AI编织的话语陷阱。研究结果(guǒ)提(tí)醒(xǐng)我(wǒ)们，必须重视AI伦理，通过技术创新、制度创新和公众参与，构建新的人机共生的信息环境。

（原标题为《警惕人工智能影响你的观点大语言模型在线辩论说服力超人类》）