全国政协委员、奇安信集团董事长齐向东：守护AI创新“草根化”趋势

中国经济周刊

本刊记者 谢玮

出差是全国政协委员、奇安信集团董事长齐向东生活的常态。他记得，过去坐火车是一件繁琐的事——排长队买票、检票、验票，但现在“刷脸”“刷身份证”就可以让出行一路畅通，城市正变得越来越“智慧”了。

“这种变化，正是智慧城市的一个缩影，它为人们带来了便捷，但背后也隐藏着巨大的安全风险。”齐向东向《中国经济周刊》记者直言。

作为网络安全专家，齐向东深知，随着人工智能等创新科技融入千行百业，平衡技术创新与安全风险必会成为重要课题。今年全国两会，他围绕人工智能安全和软件产业健康发展等议题建言献策。

本刊记者 马铭悦 | 摄

人工智能安全隐患引关注，三大风险需警惕

近年来，我国人工智能创新成果不断涌现，能力边界不断扩展，加速赋能千行百业。

“人工智能是引领未来发展的颠覆性技术和前沿技术，也是注定要走进千家万户的关键共性技术。”齐向东说，在传统产业数字化转型进程中，人工智能已在研发、生产、管理全环节广泛应用，涌现出上百种场景和模式。但人工智能也大幅提升了网络攻击的烈度和广度，网络攻击窗口扩大、网络攻击手段革新、网络犯罪门槛降低等问题，给传统产业发展带来新风险、新挑战。

在他看来，人工智能快速发展的同时也暴露出诸多安全隐患，主要集中在三大类风险。

齐向东说，第一类是人工智能大模型自身的安全问题，“其中开发风险、数据风险、应用风险和基础环境风险尤为突出”。

他举例称，如在开发方面，开源大模型需重点防范代码缺陷和预留后门等问题；在应用方面要警惕“内鬼”对训练数据“投毒”、模型篡改以及配置篡改的风险；在数据方面，需小心因内部配置错误和弱口令等造成的数据库暴露；在基础环境方面，则要重点关注云、API、传统设备漏洞等。

同时，利用人工智能开展网络攻击的问题也不容忽视。齐向东直言，人工智能促进了网络攻击手段更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、“钓鱼”等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗，或输出背离主流价值观的内容危害认知安全。

“创新是第一动力，安全是底线要求。只有筑牢安全防线、守住合规底线，创新才有可能行稳致远。”齐向东提出，在人工智能技术快速普及的当下，平衡好创新与安全至关重要。

DeepSeek出圈激发科技界创新热情

春节期间，国产大模型Deep-Seek一跃成为全球瞩目的焦点。

“这次DeepSeek横空出世，彰显了我国在科技创新上的巨大潜力，有力回应了‘脱钩断链’‘小院高墙’等带来的冲击，让我们创新创业企业倍感振奋、干劲十足。”齐向东表示，DeepSeek打破了美西方长期以来在人工智能行业近乎垄断的市场格局，凭借先进的技术架构达到世界领先水平，且较低的成本为大模型垂直应用的爆发创造了条件。这极大提振了中国科技界的信心，激发了中国科技工作者的创新热情。

DeepSeek公布的开源策略同样影响深远。齐向东认为：“它推动人工智能行业走向更加开放、合作的崭新阶段。”过去，技术封锁与商业壁垒阻碍了人工智能领域资源的高效共享与协同发展，大模型训练的大资金、大数据、大周期等高门槛将中小创新公司拒之门外，“甚至有言论说只有大公司才有资格玩大模型”。而DeepSeek的开源策略，让人工智能行业开始摆脱“大公司大模型俱乐部”，让中小公司能与大公司在大模型技术上平等竞争，实现技术平权，促使人工智能应用迈向资源共享、携手共进的阶段。

随着DeepSeek的全球爆火，网络攻击也接踵而至。

“DeepSeek一问世，针对性的高强度网络攻击就爆发了，这给人工智能行业敲响了坚守安全底线的警钟。”齐向东说，当前，众多企业、个人搭建DeepSeek大模型私有化部署，而近90%的服务器未采取安全措施，服务运行和数据安全受到严重威胁。未来，随着人工智能大模型的基础设施地位日益凸显，针对性恶意手段及风险场景增加，数据隐私、认知安全、基础设施等方面的安全风险难以预估。对人工智能行业来说，平衡技术创新与安全风险必会成为重要课题。

他还提到，中国AI创新呈现出“草根化”趋势，这与国家的前瞻性布局、政策扶持以及全方位的资源投入密不可分。以“杭州六小龙”为代表的民营企业在AI领域取得成功，很好地印证了这一点。但必须清楚，没有国家作为坚实后盾，这些“草根”力量也是难以茁壮成长的。

在他看来，继续守护并延续AI创新的“草根化”趋势，保持“自下而上”的创新张力，对我国AI产业发展乃至整个科技创新生态意义重大。当然这也离不开国家在政策、资金等方面的大力支持。他建议，国家从政策引导、优化营商环境、生态协同等维度入手，进一步激发民间创新创业热情。