官方网站-首页

封面新闻记者 代睿

9月11日，工业和信息化部举行新闻发布会，介绍《“人工智能+软件”专项行动实施方案》有关情况。工业和信息化部信息技术发展司副司长王威伟在新闻发布会上表示，在以智能编程赋能软件安全的同时，要管住智能编程带来的新风险，加强人工智能生成代码漏洞、训练数据污染、提示词诱导等新型风险的识别与防控，强化开发工具、代码库等访问控制。

9月11日，工业和信息化部举行新闻发布会，介绍《“人工智能+软件”专项行动实施方案》有关情况。封面新闻代睿摄影

工业和信息化部近日印发《“人工智能+软件”专项行动实施方案》。《方案》提出，到2030年，人工智能与软件和信息技术服务业融合发展实现新跃升，关键软件全面实现智能化升级，智能编程、智能体软件及智能服务等新业态成为产业新增长极，建成若干具有国际影响力的开源社区和产业集群，推动我国软件和信息技术服务业抢占全球价值链制高点。

“发展和安全是一体之两翼、驱动之双轮”。王威伟表示，人工智能给软件产业发展带来新的安全课题。一是开发环节，人工智能生成代码的规模快速扩大，代码的质量和安全需要新的工程方法。同时，智能编程深度嵌入开发工具链和代码库并自主操作，带来新的攻击入口，面临恶意指令注入等新型攻击风险。二是产品环节，智能体具备自主执行能力，能够调用工具、访问数据，行为是否可控、可追溯成为核心问题，传统以“人在操作”为前提设计的安全机制需要相应调整。

王威伟指出，针对这些变化，《实施方案》将“提升软件领域安全保障能力”作为任务部署，注重将安全要求嵌入融合发展各环节，同步部署、同步落实。

在开发环节，突出以智促安、防治结合。刚才已经谈到，以智能编程赋能软件安全。同时，管住智能编程带来的新风险，加强人工智能生成代码漏洞、训练数据污染、提示词诱导等新型风险的识别与防控，强化开发工具、代码库等访问控制。

在产品环节，突出行为可控、全程可溯。特别是对直接进入生产一线的工业智能体，明确要求安全可靠、行为可校验，与工业控制系统软件、企业核心业务系统的交互适配必须经得起检验。同时，推进智能体身份标识、可信互联、数据安全、行为管控等安全技术研究。

在发展保障上，加快健全与智能化发展相适应的规范体系。推动建立覆盖开发、部署、应用等环节的智能体安全管理规范，完善软件产品和服务质量管理与测评规范，加强人工智能生成代码的知识产权合规治理，营造安全可信、公平有序的发展环境。

“我们将坚持统筹发展与安全，贯通开发、产品和规范等产业全链条安全治理，提升产业链供应链韧性与安全水平，筑牢软件产业高质量发展安全屏障”。王威伟在发布会上这样表示。