巴里·艾肯格林、威尔·菲西安、韦斯利·霍利迪:暂停前沿AI研发可以如何实现

人工智能(AI)公司Anthropic联合创始人阿莫代伊(Dario Amodei)等人警告,AI对人类构成生存威胁。还有人走得更远,主张暂停对新型前沿AI模型的训练。反对意见认为,包括自我监管在内的各种监管措施恐怕难以奏效。而且,即使暂停在原则上可行,鉴于中美两国都极度担心被甩在后面,这种暂停在实践中几乎没有维持的希望。

不过,由一个跨学科研究团队(我们也是成员)发布的新报告得出结论:在全球暂停前沿AI训练既可行又可持续。如果实施得当,这种暂停可以持续10年或更长时间,具体时长取决于AI训练效率提升的速度等因素。

前沿模型的训练依赖供应链高度集中的AI晶片。“硬性暂停”可利用这一供应瓶颈,停止生产具备训练功能的AI晶片;能够对经批准模型进行快速AI推理的晶片仍可生产,但这些晶片因设计特性,实际上无法用于训练新的前沿模型。

一旦仅用于推理的晶片量产,暂停前的、具备训练功能的晶片将被逐步淘汰,无法被用于推动新一轮AI竞赛。这一“硬性暂停”将使各国能够收获AI推理带来的经济效益,同时避免继续进行可能对社会和国家安全造成巨大冲击的AI训练。

AI晶片的供应链存在极其严重的瓶颈。先进的光刻(极紫外)设备仅由一家供应商——荷兰阿斯麦(ASML)公司提供,且须分装在20辆卡车和三架货机中运输。阿斯麦依赖德国一家高精度光学公司——蔡司(Zeiss)提供的镜片。精炼稀土仅能从少数几个国家来源获得。其他材料,如高纯度石英,也仅产自寥寥数地。

至于这些晶片的用途,如果有规避者仅使用一台电脑来训练一个小型AI模型,可能根本无法被察觉。但若要训练规模远超OpenAI的Astra等当前前沿模型的AI模型,则需要同时使用数十万颗晶片,并持续运行数月甚至数年之久。在征用如此庞大的硬件集群后,规避者还须要长期欺骗全世界,使所有人相信该集群正被用于(例如)利润丰厚且计算密集型的推理任务。

这表明,采取少量干预措施,包括对具备训练功能的晶片、先进光刻机以及稀土的生产和销售进行管控,将对暂停前沿模型的训练起到很大作用。此举仍将允许生产仅用于推理的晶片,例如某些模型专用集成电路,这类晶片将经批准模型的架构和权重硬编码到晶片中。模型专用晶片虽已存在,但它们的经济吸引力因前沿模型更新换代过快而受到限制。若暂停新前沿模型的训练,生产此类晶片的吸引力将大大提高。

有人会反对说,暂停具备训练功能的晶片生产将减缓AI的发展。当然,这正是关键所在。不过,如果各方充分合作,或许可以建立受国际监管的“科学保护区”,在这些区域内,具备训练功能的晶片可用于已声明且透明的研究任务。

但中美之间乃至更广泛的国家间,关于暂停生产的合作能否长期维持?如果AI进步带来的潜在收益巨大,各国可能会不顾风险而试图违背此类协议;而且,随着训练算法的效率提高,隐瞒违约行为的难度可能会降低。

然而,决策者应当明白,他们参与的是一场重复博弈,监督机制必然存在,且如果协议破裂,眼前的收益可能会被未来的损失所淹没。完善的监督机制可以限制违约的风险。核武器遏制的历史显示,国际协议值得一试。

当然,其中存在一些须注意的事项。中美两国的政策制定者可能缺乏维持长期合作所需的耐心。鉴于现有具备训练功能的AI晶片库存,除非进行足够全面的清查,否则各国可能无法维持暂停状态。晶片制造必须受到严格监管,而前沿模型的开发者可能会成为享有特权的垄断者,除非监管措施能防止他们滥用市场支配地位。

是否应暂停前沿AI的开发,应由政策制定者决定。但他们应当认识到,暂停是可行的,而且如果实施得当,很可能具有可持续性。

作者Barry Eichengreen是加州大学伯克利分校经济学与政治学教授;Will Fithian是加州大学伯克利分校统计学副教授;Wesley Holliday是加州大学伯克利分校哲学教授兼逻辑与科学方法论研究组主任

英文原题:How a Pause on Frontier AI Could Work

版权所有:Project Syndicate, 2026.

您查看的内容可能不完整,部分内容和推荐被拦截!请对本站关闭广告拦截和阅读模式,或使用自带浏览器后恢复正常。