中美都担心人工智能（AI）有一天可能不受人类控制，但两国的应对思路不太一样。美国一些科技领袖主张让整个赛道慢下来，中国则倾向于一边加快发展，一边做好安全监管。换句话说，美国担心“车开太快会失控”，中国强调“装好刹车，让车开得更稳更快”。
分析指出，这两种选择的背后不只是双方对“AI末日风险是否迫近”的判断不同，也关系到各自所处的发展阶段、治理方式，以及由谁承担“减速”的竞争代价。
如何让AI“刹车”已进入中美外交议程。美国财长贝森特星期天（9月20日）会晤中国副总理何立峰后说，美方提议建立一个AI事故通报机制。如果出现上升到国家安全层面的AI事故，中美可互相通报。这项建议将交由美国总统特朗普和中国国家主席习近平在本星期四（24日）的峰会上讨论。
目前，中方尚未明确是否接受美方的这个提议，而先进晶片出口限制等核心争议也不在这次讨论范围内。
引发AI安全争论高潮的是Anthropic首席执行长阿莫迪。他前不久发出警告，指AI能力发展速度可能快过安全制约，因此主张放慢前沿AI的研发，并加强第三方安全评估；他也支持收紧对华的晶片出口限制，钳制中企利用美模型输出来训练新模型，以扩大美方的领先优势。
北京AI安全咨询机构Concordia AI的项目经理李名杰接受《联合早报》采访时说，中美这方面的分歧部分源于对AI本质和发展方向的理解不同。硅谷的主流叙事是把焦点放在AI的超级智能上：谁先实现突破，谁就可能获得决定性优势；但这种智能却可能强大到人类无法驾驭。
中国的政策制定者则更常把AI看作和电力、蒸汽机等一样的通用技术，重点是用它来改造产业、推动经济升级。按这样的思路，要确保安全就像汽车有制动器那样，不是为了不让车跑，而是为了让人在开车时能更放心地加速。
技术现状与体制决定治理路径
中美两国目前所处的技术发展位置也左右了各自对风险的认知。华为轮值董事长徐直军直言，美国企业或许已感受到中国开发者还没察觉的某些风险；中国企业也许要发展到更接近美企的水平，才会有类似的洞察和体会。
台湾清华大学科技法律研究所所长林勤富认为，这样的体会落差与政治经济结构有关系。“不同体制会把同一种不确定性，翻译成不同的政策语言。”
林勤富告诉《联合早报》，推动AI快速发展其实是中美的共同前提，科技竞争都压缩了双方的政策选择。美国AI发展由市场驱动，严格治理有赖于政治动能，“人类存续风险”因而成为推动立法管制和争取资源的政治杠杆；中国则沿用既有网络和数据治理体系，由国家自上而下介入，过去的管控经验也强化了“管得住”的信心。
中国最新发布的《人工智能安全治理框架3.0》指出，警惕AI自我改进的速度和方向或许会超出人类掌控。2023年，中企曾在生成式AI管理规则定稿前推迟聊天机器人上线，直到规则生效后才允许推出产品。这显示，北京更倾向通过强制规则约束部署，而不是全面放慢研发。
安全合作难绕开竞争疑虑
中美虽都担忧AI的安全风险，但若相关措施与晶片限制、市场准入等竞争政策挂钩，难免有巩固自身既有优势之嫌。
牛津大学互联网研究院博士研究生罗伯茨（Huw Roberts）受访时说，即使来临习特会取得成果，也可能只是建立热线或持续对话机制；至于以后能否开展技术合作、共同厘清什么才算AI“失控”，才是更关键的进展。
新加坡国立大学人工智能研究院人工智能治理与政策负责人陈西文（Simon Chesterman）受访时说，中美治理选择不同，“不一定意味着双方对最终风险的评估不同”。
他认为，独立评估、事故通报，以及必要时推迟部署等措施，都有助于降低风险。关键在于，规则必须按照模型能力来制定，而不是按国籍区分。双方也应该对等承担责任，并接受独立核查。
林勤富则提醒，若AI安全标准主要由少数大型前沿实验室主导，其他相关方参与不足，就可能只保护现有科技巨头，而抬高中小型新兴企业入场的门槛。
