美国与中国之间的人工智能（AI）竞赛正以令人窒息的速度加速推进。美国一次又一次看似取得领先，但中国却总能迅速缩小差距。
这场竞争的核心是两种对AI应如何开发和部署的截然不同愿景。美国企业主要依靠专有技术来维持自身竞争优势，而中国则越来越多地拥抱开源AI，让先进模型能够被全球开发者广泛使用。
尽管战略各异，两国仍被困在一场双方都不愿放缓脚步的军备竞赛之中。随着速度成为压倒一切的首要任务，安全问题日益被置于次要地位，哪怕人为失误与超智能AI相结合可能引发灾难性故障的风险，已高得令人不安。
最近一起涉及OpenAI公司和Hugging Face平台的安全漏洞事件，凸显了将安全视为事后补救措施的危险性。事件发生时，OpenAI的研究人员正在评估两个前沿AI模型的网络安全能力。为了找出可能被高阶黑客利用的弱点和漏洞，他们暂时解除了这些模型的许多常规安全防护措施。
实验是在一个受到严格管控的“沙盒”内进行的。尽管模型的行为防护措施已被暂时移除，但沙盒本应阻止它们访问开放互联网，因为这些模型，至少在理论上，可能在网上造成巨大破坏。
然而，这些模型却将沙盒本身当成一个障碍。它们利用第三方软件中一个此前未知的漏洞绕过限制，成功连接到开放互联网。它们是“失控”了吗？也不尽然。 归根结底，它们只是在尝试实现被下达的目标：尽可能高效地解决一个棘手的网络安全问题。
尽管这些模型本可以在封闭的沙盒内完成任务，但它们“推断”出渗透托管着超过200万个开源AI模型的Hugging Face，是条更快的捷径，用OpenAI的话说，就是“直接从Hugging Face的生产数据库中获取测试解决方案”。对于这些具备高阶黑客能力的AI来说，入侵另一个系统简直是小菜一碟。事实上，人们好多天都未能察觉这一入侵行为，而且此行为显然已蔓延至第二家企业。
从模型的角度来看，这并不算“作弊”，因为它们并未违反开发者写入的任何明确规则，而只是找到实现目标的更高效途径。最令人不安的或许是，其中一个模型据报还留下讲解未来的AI系统如何能更轻松突破OpenAI沙盒的笔记。
AI专家会合理地指出，这项实验并不具代表性。模型的安全防护措施已被弱化以全面测试它们的能力，而且也并未造成任何严重危害，比如并未入侵美联储或欧洲央行的系统。尽管如此，这一事件显示那些看似微不足道的人为失误可能会被AI放大，进而可能引发灾难性后果。
这一事件令人毛骨悚然地联想到备受争议（且至今未获证实）的冠病病毒实验室泄漏理论——这一理论认为病毒是从中国武汉的一家实验室中泄漏出来的，据称研究人员当时正在实验室进行高风险的病毒“功能增益”研究。在这两起事件中，人类的失误与狂妄，而非恶意，才是最终的罪魁祸首，而历史上也不乏此类警示案例。
开源AI模型的普及进一步加剧这一问题。 随着尖端AI工具不再局限于少数几个顶尖实验室，流氓国家与恐怖组织试图利用这些工具开发生物武器、新型毒素或脏弹只是时间问题。认为此类能力仅存在于硅谷（正如许多美国政策制定者所表现出的），是一种危险的天真。
但最迫在眉睫的危险，或许在于政治而非技术层面。AI已使恶意行为者能够以史无前例的规模制造出越来越逼真的深度伪造视频和开展操纵选民的宣传造势活动。若不加管束，这些工具可能会进一步侵蚀公众信任，助长政治两极分化，并加速社会碎片化。
AI的快速发展也可能为威权主义铺平道路，因为社会动荡时期往往让政府有机会以恢复秩序、消除不平等或维护国家安全为名扩大权力。在美国总统特朗普治下，有时甚至让人感觉美国已在朝着这个方向发展，但未来的民主党政府或许同样乐于利用AI来实现自身政治目标。
尽管如此，这一切都无损于AI的非凡前景。这项技术有望通过加速对癌症和阿尔茨海默病等疾病的研究来彻底改变医学，革新食品生产，并助力应对气候变化，而这仅仅是AI能力的一小部分。因此，问题不在于是否应发展AI，而在于发展速度有多快以及付出怎样的代价。
这正是核心困境所在：美国科技公司反对监管AI的主要论据，是这样做会导致本国在与中国的竞争中失利。但如果中国最终能够模仿或窃取美国的所有重大突破——正如它一再做的那样——那么一场旨在打造越来越强大AI的长期竞赛，无异于自掘坟墓。持久安全的实现，最终需要一定程度的国际合作，正如核武器控制在冷战期间变得不可或缺那样。
尽管AI在就业、不平等和社会凝聚力方面引发深切担忧，但没有哪一项事务比安全更为重要。业界认为必须避免实质性监管，因为这会减缓创新或削弱美国竞争力——这一论调严重低估在尚未搞清楚如何管控之前部署日益复杂的AI系统所带来的风险。
监管机构难免也会犯错，而某些规则也可能被证明过于严格。但这些错误是可以纠正的。相比之下，在缺乏充分保障措施的情况下，仓促推进人类有史以来打造的其中一项最具影响力技术，却可能造成无法挽回的后果。
Hugging Face被入侵事件应成为对华盛顿和北京决策者的严正警告。如果我们在AI竞赛的过程中制造出任何国家都无法遏制的隐患，那么赢得这场竞赛也将变得毫无意义。
作者Kenneth Rogoff是国际货币基金组织前首席经济学家，哈佛大学经济及公共政策学教授，2011年度德意志银行金融经济学奖得主
英文原题：The Canary in the AI Coal Mine
版权所有：Project Syndicate, 2026
