法治号
《法治日报》记者 辛红 《法人》见习记者 惠宁宁
“当前，AI技术发展日新月异，不论是大模型、智能体还是具身智能，安全问题都如影随形。”今年全国两会期间，全国政协委员、奇安信集团董事长齐向东接受《法人》记者采访时表示，亟需以“AI+安全”双轮驱动，形成“安全筑基-智能应用-绿色融合”的现代化产业体系良性发展循环。
▲全国政协委员、奇安信集团董事长齐向东 受访者供图
齐向东指出，当前，网络安全行业正经历三大根本性变革：一是人工智能的变革，正定义下一代安全；二是威胁格局的变革，让“零事故”成为必须达成的目标；三是产业需求的变革，呼唤实战化防护效果。
在安全升级改造方面，齐向东建议，从AI应用全链条安全与监管能力、数字资产安全能力、身份授权安全能力、威胁对抗能力入手，改变现有防护手段与时代需求的不适配，筑牢中国式现代化的网络安全防线。
谈到当前AI安全带来的新机遇与挑战，齐向东表示，AI已经成为网络安全质效双提升的最强引擎，大幅提升了威胁检测、漏洞挖掘和自动化响应的效率，也催生出“AI+安全”新产品、新场景。有了AI，网络安全产业就能更好地帮助千行百业从被动防护转向主动防护，构建更智能、更高效的安全防护体系。
同时AI向“超人化”演进也带来了新的风险。“AI超人”有超级权限、超级能力，很可能脱离控制，安全隐患巨大：
一是加剧了数据安全危机。AI要代替多少人工作，就要被赋予多少人的数据权限，彻底突破了原有的权限管理和安全措施。加上现在越来越多企业，为了让AI作用最大化，把积累多年、分散各处的关键数据“去粗取精”形成“精华小数据”。一旦AI被攻破，企业多年积累的核心竞争力可能瞬间化为乌有。
二是加剧了安全“易攻难守”的危机。AI“超人”无所不能，大幅降低了网络攻击成本和攻击门槛，安全防护难度陡增。
三是加剧了网络安全“链式”危机。一些AI应用安全防护跟不上，不少AI“裸奔”上线，攻击者可以通过漏洞利用、外部渗透、提权、投毒等方式间接干扰和控制大模型或智能体，影响业务和系统的正常运行。
针对如何实现“创新与安全的动态平衡”的问题，齐向东认为，没有安全的创新走不远，也走不稳。从这两年大模型、智能体、具身智能等各种AI形态遭受的网络攻击来看，为AI预设“安全护栏”十分必要。安全与创新并非对立，而是一体两翼。要实现二者动态平衡关键有三点：一是把安全能力嵌入AI应用的全生命周期，做到纵深防御；二是明确合规红线，夯实安全主体责任，强化权限与内容管控；三是用AI对抗AI，让安全能力始终比安全风险快一步。
他介绍，今年，奇安信专门成立AI公司，在“十五五”期间，帮助千行百业开展网络安全升级改造，聚焦新场景、新需求，对边界、身份、终端、云等领域进行网络安全的能力大升级。在网络安全领域，AI不仅帮助网络安全专家从海量的告警研判、重复的日常巡检等基础工作中解放出来，让其有精力去钻研更高价值的方向，还催生了AI红队、安全大模型工程师等新岗位。例如，以AI为核心枢纽的奇安信安全机器人，重构了人机协作方式，机器人负责自动化处置，人聚焦高级威胁对抗与策略制定，实现了安全防护的质效双提升。
责编：白馗
编辑：张波