官方网站-首页

【导语】10月22日，由未来生命研究所发起，中美等多国人工智能领域顶尖专家、科技领袖及知名人士共3193人联名签署声明，呼吁在达成“安全可控开发超级智能的广泛共(gòng)识(shi)”前(qián)暂(zàn)停(tíng)相(xiāng)关研(yán)发(fā)，中(zhōng)国(guó)学(xué)者(zhě)姚(yáo)期(qī)智(zhì)、张(zhāng)亚(yà)勤(qín)等(děng)在(zài)列(liè)。声(shēng)明(míng)指(zhǐ)出(chū)，超(chāo)级(jí)智(zhì)能(néng)前(qián)景(jǐng)引(yǐn)发(fā)业(yè)界(jiè)对(duì)人(rén)类(lèi)安(ān)全等(děng)多(duō)方(fāng)面(miàn)担(dān)忧(yōu)，目(mù)前(qián)尚(shàng)无(wú)确(què)保(bǎo)其(qí)安(ān)全的(de)确(què)切(qiè)方(fāng)法。

10月22日，中美两国人工智能领域的顶尖专家和技术领袖联名发起一项呼吁，在科学界达成“安全可控开发超级智能的广泛共识”前，应暂停“超级智能”的研发。

中外顶尖科技专家联名签署情况

该声明由非营利组织未来生命研究所发起，包括人工智能先驱杰弗里·辛顿（Geoffrey Hinton）、苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、维珍集团董事长理查·布兰森（Richard Branson）、经济学家达龙(lóng)·阿(ā)西(xi)莫(mò)格(gé)鲁(lǔ)（Daron Acemoglu）以(yǐ)及(jí)前(qián)美(měi)国(guó)国(guó)家(jiā)安(ān)全顾(gù)问(wèn)苏(sū)珊(shān)·赖(lài)斯(sī)（Susan Rice），都(dōu)参(cān)与(yǔ)了(le)签(qiān)名。

值(zhí)得(de)一(yī)提(tí)的(de)是(shì)，哈(hā)里(lǐ)王(wáng)子(zi)及(jí)其(qí)妻(qī)子(zi)梅(méi)根(gēn)、萨(sà)塞(sāi)克(kè)斯(sī)公(gōng)爵(jué)和(hé)公(gōng)爵(jué)夫(fu)人(rén)、史(shǐ)蒂夫·班农（Steve Bannon）和等知名人士也参与了联合签署声明。

截至10月23日中午，这份声明的签署人数已经达3193人。中国科学院院士、图灵奖得主姚期智、清华大学智能科学讲席教授、智能产业研究院院长(zhǎng)张(zhāng)亚(yà)勤(qín)，以(yǐ)及(jí)清(qīng)华(huá)大(dà)学(xué)战(zhàn)略(è)与(yǔ)安(ān)全研(yán)究(jiū)中(zhōng)心(xīn)学(xué)术(shù)委(wěi)员(yuán)、苏(sū)世(shì)民(mín)书(shū)院(yuàn)院(yuàn)长(zhǎng)薛(xuē)澜(lán)等(děng)中(zhōng)国(guó)学(xué)者(zhě)也(yě)位(wèi)列(liè)其(qí)中(zhōng)。

声明 来源：官网截图

“超级智能”是一种在所有认知任务上都超过人类的人工智能形式。有别于当下绝大多数公司研发通用人工智能，“超级智能”的前景引发业界担忧。该声明称，许多顶尖AI企业将要打造超级智能，“引起了人们的担忧，从人类经济过时和被剥夺权力、自由、公民自由、尊严和控制的丧失，到国家安全风险，甚至潜在的人类灭绝。”

参与这一呼吁的北京前瞻人工智能安全与治理研究院院长，中国科学院自动化研究所研究员曾毅告诉澎湃科技（www.thepaper.cn），目前我们还没有坚实的科学证据和切实可行的方法来确保超级智能的安全，使其不会给人类带来灾难性的风险。世界尚未准备好迎接不是可控工具的超级智能。

当前，超级智能已成为人工智能领域的热门词汇。从埃隆·马斯克（Elon Musk）的xAI到萨姆·奥特曼（Sam Altman）的OpenAI等公司都在竞相推出更先进的大语言模型。Meta甚至将其LLM部门命名为“Meta超级智能实验室”。

科技界的人们对人工智能的看法越来越两极分化：一方认为它是推动社会进步的强大力量，理应不受限制地发展；另一方则担忧其潜在风险，主张加强监管。

然而，即使是马斯克和奥特曼等世界领先人工智能公司的领导人，过去也曾警告过超(chāo)级(jí)智(zhì)能的危险。在担任OpenAI首席执行官之前，奥特曼在2015年的一篇博客文章中写道：“发展超人类机器智能（SMI）可能是对人类持续存在的最大威胁。”

曾毅认为，绝大多数公司研发的只是通用人工智能工具，这并不是超级智能。但是超级智能的风险是并没有科学依据可以控制的。美国企业，例如Meta建立超级智能实验室，以及阿里声称的开发超级智能，这并不只是通用人工智能工具。

澎湃科技注意到，据《纽约时报》报道，10月22日联合声明发布当天，Meta在超级智能实验室裁员 600人。该部门拥有约 3000 名员工，他们被授权开(kāi)发(fā)“超(chāo)级(jí)智(zhì)能”，即超越人脑的人工智能。

Ｍeta新任首席人工智能官亚历山大·王 （Alexandr Wang）表示，裁员旨在清理因三年来过快建立Meta人工智能工作而导致的组织臃肿，从而帮助Meta更快地开发人工智能产品。Meta高管强调，裁员并不意味着他们正在缩减人工智能方面的工作，超级智能仍然是扎克伯格公司的首要任务之一。