美国人工智能（AI）企业巨头Anthropic的首席执行官达里奥·阿莫迪（Dario Amodei）9月12日发表一篇长文，大声疾呼通过前沿AI企业接受第三方评估、民主国家协调和全球合作，放缓前沿AI模型的发展速度，否则AI有可能在六到12个月内“掌控整个互联网”。
阿莫迪的公开信回应了几天前刚离开Anthropic的年轻AI研究员雅各布·科克森（Jacob Coxon）的焦虑。科克森9月8日在社媒X上宣布，他当天刚辞职，原因是他过去三年分别在OpenAI和Anthropic工作，发现这两家公司的“行为都不负责任”，都在朝着研发能自我增强的超级智能狂奔而去，“拿我们（人类）的生命做赌注”。27岁的科克森还警告，如果任由这个趋势发展，AI有可能在2030年让人类灭亡。
科克森的贴文至今获得1.72亿浏览量。在他的前东家一把手阿莫迪的公开信于12日发表后，OpenAI首席执行官山姆·奥特曼和马斯克随即表示赞同，美国舆论场上瞬间燃起一片有关“AI末日论”的焦虑与讨论。
有关AI失控的叙事，近年来每隔几个月，当有AI科学家以担忧“末日危机”为由辞职，或者与东家闹翻、另立门户时，这类警告声都会响起一阵。不过，今年的氛围与过去不同。有AI教父之称的诺贝尔物理学奖得主辛顿2023年从谷歌辞职后警告，AI在30年内导致人类灭绝的可能性超过10%，他最近把这个预言的期限缩短到了10年。
今年7月，OpenAI测试的一款AI智能体成功逃出隔离限制，自主接入互联网，还入侵Hugging Face网络，用窃取的信息完成测试目标。这起事件成了许多人心理上的转折点，因为它证明AI摆脱人类控制已不是科幻小说的情节，而是已然发生的事实。另一件引发哗然的事件是OpenAI公司9月8日宣布，该公司利用一个尚未发布的新一代模型，组织约1万个AI智能体，仅仅用了88小时就破解了千禧年七大数学难题之一的“纳维-斯托克斯方程问题”。
当AI超级智能体越变越强，碾压人类智商、掌握不断自我强化的能力，还可以控制物件时，它给人类社会带来的冲击就不只是打碎许多人的饭碗那么简单——虽然打碎饭碗已够让人不安，在此之上，AI威胁人类生存也越来越不能只视为危言耸听。
然而，阿莫迪提出的“减速主张”在中美这两个全球AI实力最强国家都不受待见。美国总统特朗普驳斥“末日论”是骗局，中国外交部发言人郭嘉昆则说，散播各种威胁叙事，搞对抗和恶意竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。中国官媒《环球时报》更直批阿莫迪的叙事，只是美国“科技右翼”端出的冷战剧本。
细看阿莫迪的公开信，他是把AI的发展置于“民主国家”与“制度国家”对立的框架下评论。他呼吁前沿AI模型发展减速，同时警告“中国在AI领域的领先将对美国和世界构成严峻危险”，呼吁美国不要把高算力AI晶片和半导体设备出口中国，打击晶片走私，打击“制度国家”的公司通过非法“蒸馏”来节约开发成本。
阿莫迪主张，通过上述手段让中美的AI发展水平拉出显著差距，如此一来“民主体制”未来将更有优势与中国达成协议，包括禁止利用AI研发生化武器、双方同意所有模型经由第三方的全球机构测试安全后才发布、让AI模型发展减速等。换言之，先遏制中国之后再合作。
这样的论述要让中国接受的可能性当然很低。甚至让人怀疑，阿莫迪如果是希望能促进AI全球共治，就不会用这样的措辞，公开这样的建议。至于阿莫迪主张美国的前沿AI公司准许第三方评估人员在公司内部进行安全检查，也有AI界人士讽刺说，何必这么麻烦，你开源不就得了吗？也有评论指，科技企业如果真想减速，应先跟股东沟通或彼此协调，而不是指向外部。在美国，舆论导向正把中国指为美国监管AI的最大障碍。
从一个层面上说，这或许是部分的事实。特朗普以“不能让中国赶超”为由，反对让美国的AI发展减速，与之相应地，中国当然也不会主动减速，在AI这场大国必争的赛场上败下阵来。说来让人难过且忧心，AI对人类的挑战日益凸显，但是企业各有自身算盘，大国又要争雄。在典型的囚徒困境中，所谓的AI全球共治要从何开始？
目前，人们只希望在下个星期中国元首访美、“习特二会”上可以好好谈谈AI问题，也许还能成立工作组开启务实合作。《环球时报》驳斥阿莫迪端出的只是冷战剧本，但是中国外交部并没有否认AI全球治理的意义，希望这是一个正面信号。因为，相对于大国间的竞赛，在善用AI的挑战上，人类更输不起。
