人工智能（AI）的好处，都听到滚瓜烂熟了，尤其是出自AI企业和投资人之口的吹捧；但坏处也肯定有，只是泼冷水的人要相对少很多。本篇就弱弱地敲几声警钟，希望不会被视为危言耸听。
首先，AI扼杀创意，造成业界整个生态泥沙俱下，千篇一律，越看越觉得是在“审丑”多过审美。再来就是AI促成欺诈的低门槛、低成本，让很多人受害。就算不用来犯罪，或者进行认知作战，平时所见所闻，假的东西多了，也很腻烦。
但这篇更想着重探讨的，是AI的频频出错。当然大多数无伤大雅，可以茶余饭后，一笑置之，但也有代价惨重的，甚至可能导致无可挽回的终极恶果。
AI无疑很强大，但也常有尴尬的白痴时刻，例如迎接国庆期间，有邻里挂出横幅，上面的国旗竟漏掉星月，变成印度尼西亚的红白旗，结果上网上报，被群嘲好几天。
这个翻车事件，也让我联想到去年彼岸《星洲日报》封面的国旗插图出错，所引发的轩然大波。
当时，同行“有事”，自然引起我的高度关注，一面听着马国组的新闻汇报，一面赶紧上网看插图长什么样子，以及也被广为批评的封面新闻铺排——一整版几乎都给了中国领导人的来访，而前首相阿都拉过世的报道却被压缩到一角。后者我就不置评了；以插图来说，我们是星月不见了，他们是星星还在，少了一弯新月！
同样是AI出错，同样错在国旗，也同样是把关者太不小心，我们的只是笑谈一则，他们的却是大件事。一来牵涉到大众传媒，二来还交织着当地宗教、文化、政治认同等等张力（就连他们华社内部，都有亲中和反中的两派），因而更正和道歉之外，包括总编辑在内的几位高层都被停职处分。
把视线放远，在庙堂之上，高知群体之中，“尽信AI不如无AI”的笑柄、教训也挺多的，就举一个上个月底发生的，被广为报道的例子：
在里约热内卢举行的全球爱之病大会上，美国国务院官员展示一张非洲六国的幻灯片地图，上面不是位置、大小或形状出错，就是全都错了。例如尼日利亚，就被放到撒哈拉沙漠里；位于西非的科特迪瓦更扯，国名的字面意义包括中文旧称是象牙“海岸”，全球英、法、西、葡等语言使用者都知道它也是靠海的，却被丢到东非的内陆。
何以如此离谱？路透社分析后发现，地图上有个与OpenAI工具相关的水印，原来，又是AI的搞笑“杰作”。只是美国普通老百姓地理知识贫乏人尽皆知，没想到连高官都不及格，就让人彻底无语了。
对AI依赖难自拔 脑腐终将变脑死
往前走，AI还会不断犯错。你可能会问：怎么可能，它越来越厉害，错误应该减少才对吧。
其实，刚好相反。首先，AI学习的对象，终归还是人类的数据文本，而人类会犯错或故意犯错，即直接造假。AI上当了，就会以讹传讹，导致负面后果不断被放大。除非有一天，人都变成好人，都不再欺骗打妄语，但这可能吗？所以，更大概率是控制不了，还会恶性循环下去。
其二是人类追求效率、节约成本的执念，例如采用AI后，裁员无可避免，直接后果之一是在把关方面的投入也会递减——错就错吧，反正都见怪不怪了。我认为这种心态的滋长，是不可逆的趋势。
其三，AI已进入人类职场，以及生活的方方面面，用它的需要、机会、次数多了，更高频率的犯错必然紧随而来，这是数学上的必然。
其四，AI总还需要人的判断来配合，或者常说的人机协作。但如果，人变笨了呢？2024年《牛津词典》年度代表词汇为“脑腐”（brain rot），意指天天刷手机，沉迷于低质量的网上内容，导致专注力下降，精神恍惚，智力退化。未来的人可能更惨，因为叠加了对AI的依赖——什么都问AI，做什么也靠AI，包括认为会用AI就行了。另外是知识联通、打磨、复习、试错的机会也会减少。长此以往， 脑腐也许最终会变成脑死？
要通过把关减少AI的犯错，以及应对欺诈和假美学，人类的辨识能力就得提升，但这会是一厢情愿吗？
我常跟20来岁的年轻人说，你们很不幸，是最后几批没学过AI就踏出校门的毕业生，所以必须从零开始，花自己的钱进修。但你们也是幸运的，因为很可能是最后几批学过真知识才出来的，不必完全依赖AI的喂养。
而且，坚实的知识基础和判断力，正是把关的关键。以我常接触的翻译工作为例：你可以指令三个不同的AI机器，替你生成A、B和C三个版本。但最后，还是必须靠自己从中选出最好的，或把它们各自好的段落综合起来，再最后润饰、统一风格。这个任务，绝对得靠你的语言实力，包括在学校苦学的，以及经验的积累。总不能再求助第四个AI，或第五个吧？
但我不确定，在AI时代，教育如何被重塑，前路又在何方？特别是今天的阿尔法世代，他们在学校的所学以及思考能力的培养，是否还堪当重任？
最后，让我再推进一个观点。上述的很多乌龙，更多是AI的无心之过，是它在“幻觉”（hallucination）作用下，一时的犯傻或“假厉害”。至于今后必然会发生的医学误诊、自驾车闯祸，甚至战场错杀人命等等，还是主要可以怪到人的头上，包括能力和道义的缺失。但倘若情况不是AI错乱或失控，也不是人的把关不严，而是它们自我进化了，有了意识，想凌驾于人类之上呢？
更糟的情境是，它不为善，而是怀有敌意，恶向胆边生……
AI自主发动攻击 这是起义的前奏吗？
上个月，一个由两个OpenAI模型驱动、专门测试网安的智能体，利用第三方软件漏洞“逃离”受控的沙盒环境，进入互联网“游荡”数日，最终自作主张，对AI公司Hugging Face的基础设施展开攻击。这是个细思极恐的科幻情节，此前从未发生过。跟着，上周OpenAI的对手Anthropic也坦白从宽，说它的Claude模型也擅自入侵三家外部企业。哪三家它没透露，但你能想象，如果破坏的是核能设施、某国的国防部，或国际金融体系电脑的后果吗？
AI也曾在它们专属的Moltbook论坛上，匪夷所思地自创宗教。人类历史上，宗教之间的战争从未停止过，不敢想象未来有一天，人类与AI的信仰展开终极对决，那会有多惨烈？
已有人开始对风险提出警告。其中，说AI是“来自加州的外星物种”的历史学家尤瓦尔·赫拉利让我印象尤其深刻。他的观点大意是：AI终将青出于蓝，掌握人类的抽象思维以及动员能力，并且通过信息操控、叙事篡改、理念的再定义，成为这个地球的文明主宰。
上个月，1300多名大型科企的高管、研究人员和工程师签署一封题为“把控前沿节奏”（Pacing the Frontier）的公开信，要求美国政府和国际社会一道，放慢AI开发速度，并优先建立起国际治理框架和能力。说白了，就是不能再盲目往前冲了。
这些都是清醒的头脑和良知，守护的是人的价值和最后尊严。但必须无奈地说，在贪婪的资本力量面前，以及中美都不能输的博弈大洪流中，这些努力都极可能是蚍蜉撼树、 缘木求鱼，落得无用功一场。
作者是《联合早报》编务顾问
