本报记者 丁蓉
AI(人工智能)技术高速发展,正在重塑数据安全治理逻辑。近日,在2026年国家网络安全宣传周开幕式上,全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》(以下简称《框架3.0》)。
苏商银行特约研究员高政扬在接受《证券日报》记者采访时表示:“AI安全不是产业附属配套,而是AI产业化过程中必须同步建设的一项基础能力。未来,AI安全的实际需求会随着AI应用拓展逐步释放。”
《框架3.0》延续“风险分类、技术应对、综合治理”的核心逻辑,更新了风险分类,优化调整了技术应对和综合治理措施,以促进提升AI安全治理共识和风险防范应对能力,确保AI技术造福于人类。
“随着AI能力跃升,AI大模型融入各类应用场景,相关风险逐步延伸,包括训练数据污染、模型越权、提示词攻击、敏感信息泄露以及智能体执行失控等。尤其在金融、医疗、政务、工业等场景,若AI参与决策或执行,对AI安全的要求会持续提升。”高政扬表示。
“实现AI安全治理,需要各方共同努力,包括完善顶层治理标准、强化核心技术攻坚、建立行业联防机制、推动场景化活动落地适配等。”眺远影响力研究院院长高承远对《证券日报》记者表示。
AI安全已经成为AI产业中的核心赛道之一,未来市场空间广阔。A股上市公司在这一领域的业务布局受到投资者高度关注,多家上市公司近日介绍了相关部署和进展。
深信服科技股份有限公司(以下简称“深信服”)持续加大在AI安全方面的投入,并在代码安全智能化领域取得领先成果。今年8月,在国际权威基准测试CyberGym中,深信服的Sangfor AI产品与全球头部厂商的模型及智能体同场竞技,评测成绩登顶全球第一。该公司相关负责人在互动易平台表示:“未来,公司将在安全大模型、智能体等核心领域不断提升竞争力,推动前沿技术转化为企业实际业务场景中的生产力。”
启明星辰信息技术集团股份有限公司则通过AI技术升级全系列安全产品,实现安全运营、威胁研判智能化升级,同时,聚焦AI应用合规与风险管控,推动传统安全产品向智能化、服务化转型,适配各行业AI落地安全需求。
中孚信息股份有限公司(以下简称“中孚信息”)推出的“中孚数盾终端大模型智栏系统”,围绕终端应用大模型系统业务场景,依托多项识别检测技术,实时监测用户与大模型交互内容,能精准识别信息泄露风险,即时触发告警并支持对违规主机限制大模型访问。中孚信息相关负责人在互动易平台表示,这一系统精准对接大模型应用中的数据安全核心需求,可以为各类场景下大模型的应用提供安全保障。
天融信科技集团股份有限公司(以下简称“天融信”)大力发展面向AI前沿安全的技术和产品,已推出多款大模型安全、运维、智算产品。天融信相关负责人近日在全景网互动平台表示:“随着AI应用的发展,这些AI赋能安全及AI安全产品将有越来越大的市场。”