奇安信董事长齐向东：人工智能大模型爆发 引发三重安全风险

    本报记者 李乔宇

    “人工智能大模型应用在各行各业迎来大爆发，新兴场景层出不穷，带来无限生产力、创造力，同时也带来巨大安全风险。”4月29日至4月30日，第八届数字中国建设峰会在福建福州举办，会议期间，奇安信科技集团股份有限公司（以下简称“奇安信”）在接受《证券日报》等媒体记者采访时表示。

    齐向东强调，第一，“小数据”“一失万无”。他告诉记者，“小数据安全”成为数字经济时代的核心关切点。数据是驱动数字经济发展的“石油”，人工智能是“发动机”。“过去，提到数据我们想到的都是大数据，规模大，但碎片化、质量参差不齐，数据价值挖掘和变现难。现在有了人工智能，尤其是大模型，传统企业开始把所积累的设计数据、生产数据、安装调试数据等通过去粗取精、去重整合、分类标注等加工处理，形成精华小数据。对企业而言，一旦精华小数据被窃取、被泄露、被篡改，企业常年积累的核心竞争力会瞬间崩塌。”他表示。

    第二，大模型融通百业，“裸奔”上线极有可能引发业务停摆的链式危机。齐向东援引数据表示，奇安信资产测绘鹰图平台监测发现，8971个Ollama大模型服务器中，有6449个活跃服务器，其中近九成都在“裸奔”，“导致任何人，不需要任何认证就可随意调用、在未经授权的情况下访问服务。”

    第三，部分企业对AI过度依赖，一旦大模型决策失准会引发“蝴蝶效应”。从外部攻击视角看，黑客可以通过漏洞利用、数据投毒等方式，干扰大模型的决策，披着大模型的外衣作恶。从内部运营视角看，如果内部员工在更新知识库时，引入错误信息会污染模型学习环境，使其输出错误结论。

    为了应对这些风险，奇安信针对AI大模型的垂直新场景，创新研发安全产品，护航千行百业踏实地向人工智能要生产力；同时把AI技术深度集成到安全产品中，促进安全防护提质增效。

    “我们围绕大模型应用，推出了大模型安全空间、奇安天界大模型安全一体机，为基于大模型的智能业务应用保驾护航。”齐向东表示。

    “在数字经济发展过程中，网络安全是底线根基和上限支撑，是价值创造的强劲引擎。”齐向东强调，数据要素流通、人工智能应用、算力网络构建出更繁复的新兴场景，这些场景的落地必须以网络和数据安全为前提，否则所有创新成果都可能因为漏洞而化为泡影。同时全球科技博弈日益加剧，以人工智能为核心的新技术成为大国角力战场，倒逼着网络安全持续创新，实现技术自主可控，为数字经济构建安全护城河。

（编辑 张伟）