官方网站-首页

如何认清中国人工智能产业链供应链韧性与安全水平

表４ 世界主要国家人工智能能力排名与得分 (二)人工智能自身的安全 人工智能(néng)作(zuò)为(wèi)融(róng)合(hé)计(jì)算(suàn)机(jī)科(kē)学(xué)、信(xìn)息(xi)论(lùn)、控(kòng)制(zhì)论、心理学、神经学科、数学、哲学等涉及自然科学与社会科学的交叉学科，融合了数据挖掘、计算机🈶视觉、机器学习、深度学习、模式识别、算法、仿真、人机交互与自然语言处理等多种新技术，由这些技术本身导致的安全问题不仅涉及人工智能自身的发展，还会影响当前社会经济活动的方方面面。1.人工智能本身的安全问题。人工智能所融合的多项技术本身就存在一些漏洞，技术结合形成的应用场景将会造成系统。

关注 | “人工智能前沿与应用”栏目约稿函

人工智能前沿与应用 约 稿 函 人工智能已成为引领未来的战略性技术，是发展新质生产力的重要引擎。今年全国两会期间，政府工作报告多次提到“人工智能”，更首次提出开展“人工智能+”行动。在医药行业，人工智能的发展带来了重大变革，对医药产品研发、生产、流通等领域产生了深远影响。国务院印发的《新一代人工智能发展规划》指出，围绕医疗等迫切民生需求，加快人工智能创新应用：推广应用人工智能治疗新模式新手段，建立快速精准的智能医疗体系；基于人工智能开展大规模基因组识别、蛋白组学、代谢组学等研。

人工智能的安全性与复杂性 精选

本文摘自《环球财经》2025.07（总296期）不久前，美国人工智能公司OpenAI旗下的推理大模型o3首次出现了“不听人类指挥，🐞拒绝关闭”的情况，这一现象引发了高度关注。这种现象并非单纯的技术性“错误”，而是一种算法（无意识性）“失误”，被形象地称为“算法越狱”。在“算法越狱”现象中，AI模型由于其内在(zài)的(de)算(suàn)法(fǎ)逻(luó)辑(ji)，可(kě)能(néng)会(huì)偏(piān)离(lí)人(rén)类(lèi)的(de)预(yù)期(qī)指(zhǐ)令(lìng)，甚(shén)至(zhì)采取(qǔ)一(yī)些(xiē)规(guī)避(bì)措(cuò)施(shī)来(lái)维(wéi)持(chí)自(zì)身(shēn)的(de)运(yùn)行(xíng)。这(zhè)一(yī)问(wèn)题(tí)的(de)出(chū)现(xiàn)，凸(tū)显(xiǎn)了(le)当(dāng)前(qián)AI技(jì)术(shù)在(zài)算(suàn)法(fǎ)设(shè)计(jì)和(hé)安(ān)全机(jī)制(zhì)方(fāng)面(miàn)的(de)潜(qián)在(zài)风(fēng)险(xiǎn)。为(wèi)了(le)应(yīng)对(duì)“算(suàn)法(fǎ)越(yuè)狱(yù)”，新(xīn)的(de)强(qiáng)。

薛(xuē)澜(lán)：AI四(sì)大(dà)风(fēng)险(xiǎn)引(yǐn)发(fā)担(dān)忧(yōu)，全球治理如何跟上技术狂奔

第三个挑战是国际治理机制🍍登录的多元性和复杂性问题。全球治理中存在所谓的“机制复合体”（regime complex）问题，这是全球治理学者在研究其他全球治理问题时发现的一个现象，同样适用于人工智能治理。也就是说，在复杂的全球性问题上，可能存在一系列不同的治理机制，它们都有一定的发言权，但这些机制之间并无上下从属关系，它们可能相互重叠、相互冲突，甚至完全矛盾。例如，在基因数据的全球治理中，生物医学专业组织、国际组织、基金会、政府部门以及立法机构等都可能参与(yǔ)治(zhì)理(lǐ)，它(tā)们(men)各(gè)自(zì)拥(yōng)有(yǒu)不(bù)同(tóng)的(de)治(zhì)。

人(rén)工(gōng)智(zhì)能(néng)综(zōng)述(shù)：物(wù)理(lǐ)学(xué)与(yǔ)人(rén)工(gōng)智(zhì)能(néng)的(de)跨(kuà)界(jiè)新(xīn)范(fàn)式(shì)

获(huò)取(qǔ)和(hé)处(chù)理(lǐ)大(dà)量(liàng)信(xìn)息(xi)数(shù)据(jù)不(bù)可(kě)避(bì)免(miǎn)地(de)涉(shè)及(jí)个(gè)人(rén)隐(yǐn)私(sī)保(bǎo)护(hù)的(de)重(zhòng)要(yào)问(wèn)题(tí)（Wang 和(hé) Yang，2025）。因(yīn)此(cǐ)，人(rén)工(gōng)智(zhì)能(néng)需(xū)要(yào)在(zài)隐(yǐn)私(sī)保(bǎo)护(hù)和(hé)AI能力之间找到平衡。安全智能：随着人工智能在各行各业的广泛应用，滥用或恶意破坏人工智能系统将对社会产生巨大的负面影响。近年🍭登录来，针对人工智能算法的算法攻击、对抗样本攻击、模型窃取攻击等攻击技术不断发展，这为人工智能带来了更大的算法安全风险。因此，实现人工智能的安全智能是未来的一大挑战。6.9 开放问题9：算法公平性 尽管人工智能领域的快速发展为人们带来。