人工智能（AI）会不会有一天反过来伤害人类呢？这个问题最近又热了起来。
过去一周，与AI相关的新闻报道铺天盖地，多得有些反常。令人关注的是，硅谷的讨论突然从“AI还能跑多快”，转向是不是该踩一下刹车，让AI发展慢下来。其中，Anthropic首席执行官阿莫代伊（Dario Amodei）呼吁放慢前沿AI的发展，让安全措施追上技术进步；OpenAI首席执行官奥尔特曼（Sam Altman）等人随后响应，甚至传出几家头部AI公司正商议成立新的安全机构。另一边，英伟达首席执行官黄仁勋则认为，没有必要因为安全疑虑放慢创新脚步。
这场争论很快也超出美国科技界本身。在中国的相关讨论中，这场围绕AI速度、技术优势与安全的竞争，被一些论者放进所谓“AI新冷战”的框架里。于是，一个原本看似属于科技公司的问题，逐渐变成企业竞争、国家安全乃至地缘政治的问题。同一批最有能力推动这场AI竞赛的人，也成了争论“竞赛该不该减速”的主角。
不过，过去一周的新闻看起来热闹，却也让人有些雾里看花。我们似乎进入一个奇怪的“AI新闻周期”：最接近这项技术的人不断告诉我们它可能变得危险，而最有能力让它慢下来的人，恰恰也是过去几年推动它不断加速的人。公众得到的是越来越多的警告，却未必因此更清楚谁在作决定，谁承担风险，以及谁真正有能力按下暂停键。
AI界有个颇形象的比喻：现在的AI就像一只可爱的幼虎，我们可以选择它接触什么、训练什么，却不知道它长大后会是友善的动物，还是可能伤人的猛兽。今年初，在世界经济论坛上，有“AI教父”之称的本吉奥（Yoshua Bengio）便用了这个比喻。他担心的是，如果等这只“老虎”长大，变得更聪明以后才尝试控制它，可能已经太迟。
“养虎为患”的说法令人不安，正因为它说中AI发展的一种悖论。我们一边惊叹于它越来越聪明，一边又担心有一天自己不再知道如何控制它。但这个比喻也有一个容易被忽略的地方：我们太习惯把AI想象成一只会自己长大，自己决定何时伤人的动物。
事实上，AI不是凭空出现，更不是某一天突然从实验室里跑出来的猛兽。它由人设计、训练、部署，也由人决定投入多少算力，开放什么能力，以及发展到什么程度。
换句话说，如果一定要在这个比喻里找一只“虎”，我们首先应该问的，不是AI会不会变成猛兽，而是我们究竟把谁当成了那只虎？
问题或许不在于科技巨头是不是虚伪，而在于他们身处一个无法轻易退出的竞赛。阿莫代伊当年因对AI发展方向的分歧离开OpenAI，另起炉灶创办强调安全的Anthropic；吊诡的是，如今Anthropic自己也成了前沿AI竞赛的参与者，而阿莫代伊又站出来呼吁行业减速。
即使人人都意识到风险，AI公司仍必须争夺算力、人才、资本和市场，更不能让竞争对手抢先一步。只要没有谁敢先停下来，竞赛就会继续。这或许也是为什么，所谓AI竞赛本身就是治理人工智能最棘手的问题之一。更值得注意的是，竞赛者甚至未必完全知道自己正造出什么。
OpenAI早期的内部裂变，便透露出这种不确定性。随着模型能力快速提升，一批研究人员开始担心，公司究竟是在解决一个可以逐步控制的技术问题，还是正在制造一种尚未有人真正理解的力量。后来从OpenAI分出来的Anthropic，正是在这样的分歧中诞生。
记得社交媒体兴起时，也曾被寄予相当理想主义的期待。许多人相信，这些平台会让更多人发声，让信息摆脱少数传统媒体机构的控制，让普通人拥有前所未有的传播能力。但近几年，我们看到的却是一个更容易奖励情绪与冲突，放大操纵性叙事甚至仇恨言论的平台环境。
最近的尼泊尔泥石流信息争议，就是一个小小的提醒：灾难究竟与极端天气、气候变化、地质条件还是人为基础设施有关，本来需要证据和时间才能厘清，却很快被压缩成“都是气候变化”或“就是中国水坝”这样的单一解释。复杂的答案比简单的问号更难传播，这并不是AI创造的问题，却是我们在进入AI时代以前就没有解决好的问题。
新加坡网络空间也出现类似现象：新航投资印度航空的商业议题，可以滑向针对印度人的种族攻击；一场真实发生过的种族争议，也可以在AI生成短视频中，被包装成“新加坡出现分裂苗头”。这些事情未必有统一的幕后操盘者，也不能在证据不足时归咎于外国势力、平台算法或AI。更值得注意的是，当真实事件、既有偏见、情绪化叙事和传播机制碰在一起，原本互不相干的不满就可能彼此嫁接。
AI真正值得警惕的地方，也许因此不是它突然有一天学会“作恶”，而是它正在进入一个上一代数码技术已经留下治理缺口的信息环境。如果社媒已经让制造和传播一个简单、情绪化的叙事变得如此容易，当AI进一步降低文字、图片、声音和影片的生产成本，我们面对的就不仅是“真假辨识”，而是一个更根本的问题：谁能够决定什么值得被看见，什么值得被相信？AI并没有创造这些问题，但它可能把问题推得更远。
所以，当科技公司的老板告诉我们，AI可能是一只危险的老虎，我们当然应该认真听。但当我们把AI想象得越来越像一个拥有意志的“它”时，却容易忘记，它至今仍是人造之物，正如今天许多信息环境的问题，并不是技术自己造成，而是人一步步选择、设计和放任出来的。
真正值得我们警惕的，也许不是AI将来会变成什么，而是当一种技术的力量越来越大，我们是否还应该把决定它未来的权力，只交给最先造出它的人。
作者是新报业媒体资讯诚信与核实组主编
