中国主要AI企业削弱新模型网络攻击能力

中国主要人工智能(AI)企业近期纷纷削弱旗下新模型的网络攻击能力,以降低技术被滥用的风险。此前,中国政府已提出限制出口具备网络攻击能力的AI技术,显示北京正加强对先进AI模型的安全监管。

据彭博社星期二(11月17日)报道,阿里巴巴、腾讯和月之暗面等中国AI企业近期推出的新模型,均削弱了网络攻击能力,同时强化网络防御功能。

其中,阿里巴巴发布最新一代旗舰通义千问模型时,未公开决定模型运作方式的内部参数,即模型权重(weights),使用户无法下载和自行调整完整模型。

开放权重模型尤其受到黑客青睐,因为用户可在本地运行模型,并自行调整参数。深度求索(DeepSeek)的模型就曾被用于网络攻击,而阿里巴巴的通义千问系列,也是全球下载量最高的开放权重模型系列之一。

腾讯本月初发布Hy4模型前,也削弱了部分网络攻击功能;月之暗面推出Kimi K3.1 Pro模型时,采取了类似措施。智谱AI则在今年8月开放GLM-5.3模型权重前,进行安全审查,并向相关机构通报发现的系统漏洞。

这些调整正值中国政府加强AI安全监管之际。中国商务部和科技部上个月公布出口管制草案,拟禁止出口AI驱动的恶意代码生成与变异技术,并限制AI辅助漏洞挖掘等技术出口。部分达到“全球领先水平”的大型语言模型,也可能面临海外部署限制。

中国国家发展和改革委员会本月初也说,正加快制定AI安全标准和伦理规范,推动企业在模型开发过程中纳入安全防护措施。

网络安全公司CrowdStrike上个月指出,黑客曾利用DeepSeek模型,对14个国家的机构发动网络攻击。月之暗面的Kimi K3模型此前也曾在独立研究机构的测试中,突破英国政府AI安全研究所开发的隔离测试环境。

曾任职于美国OpenAI的腾讯首席AI科学家姚顺雨,本月在香港一场活动上警告,AI模型的网络攻击能力,以及未来在生物领域的能力,将逐渐达到可能造成实际危害的临界点。

追踪亚太地区网络活动的网络安全机构TeamT5首席分析师Charles Li认为,中国正试图在AI技术的国际商业化和战略管控之间取得平衡。

他指出:“随着中国前沿AI模型据报在网络安全能力方面逐渐缩小与美国同类模型的差距,北京越来越将这些能力视为战略资产,并认为有必要实施更严格的出口管制。”

您查看的内容可能不完整,部分内容和推荐被拦截!请对本站关闭广告拦截和阅读模式,或使用自带浏览器后恢复正常。