我们这个时代的核心问题，已不再是人工智能（AI）是否会改变我们的世界，因为世界早已被它所改变。当今世界需要的是为这项技术确立一个道德指南针，正因如此， 我于7月早些时候在日内瓦举行的“AI向善全球峰会”（AI for Good Global Summit）上，向来自170个国家的1万2000余名代表提出“有同情心的AI”（Compassionate AI）这一概念。
如果我们真心希望AI能够促进公共利益，而不仅仅是被用来追求利润和权力，那就必须让AI工程师和开发者走出实验室，花一个月的时间去了解外面的世界。让他们去接触在矿山和工厂里工作的儿童、因冲突而流离失所的家庭，以及饱受贫困、歧视和排斥之苦的弱势群体。让他们与那些生活更多地受不确定性、恐惧和不公，而非任何技术进步所左右的人并肩同行。哪怕只有一个月，也能改变一个人的思维方式，进而影响开发者构建这项技术并塑造未来的方式。
AI已正在重塑教育、医疗、商业、治理和科学发现。它有望带来非凡的进步，从加速医学研究、改善学习效果到揭露人口贩运网络、在饥荒来临前预测饥饿风险，以及加强人道主义行动。但每一次技术革命都会催生道德考验，AI也不例外。随着这项技术成为全球经济与地缘政治权力激烈竞争的前沿阵地，速度受到推崇，规模被歌颂，而市场主导地位则被视为至高无上的目标。
在这种情况下，我们有可能会忘记最重要的问题：这种智能最终是为了服务谁？当今AI发展的最大败笔不是技术不够先进，而是领导力的缺失。虽说各大全球会议上的许多讨论都已聚焦于“有道德的AI”（ethical AI）和“负责任的AI”（responsible AI）等概念，而这些概念也确实不可或缺，但我们也需要更强有力的治理、切实的问责，以及有效的监管。
但仅靠这些保障措施还远远不够。道德伦理可以告诉我们什么是正确的，法律则可以划定界限；但对于那些正在构想和设计将影响数十亿人生命之技术的人来说，仅凭其中任何一方，都无法改变他们的思维方式。这需要更深层次的东西，即同情心。
同情心常被误认为是共情、善良或慈善。但它既不与这些概念同义，也不仅仅是一种情感或抽象的道德理想。同情心始于将他人的痛苦视为自己的痛苦，也因此促使我们采取行动以缓解这种痛苦。它包含在进一步伤害发生之前采取行动的勇气。它不仅引导我们去优化系统，更促使我们去捍卫人的尊严。
同情心绝非技术进步的桎梏，而是负责任创新的主心骨。“有同情心的AI”之所以与其他所有框架不同，原因在于它不是从技术出发，而是从人性出发。在询问系统能做什么之前，“有同情心的AI”会先问系统服务于谁；在追求更高效率之前，它会考虑对人的影响；在赞颂创新之前，它会问谁可能会被抛在后面。
AI的许多弊端并非只是副作用
单是这一转变就能改变一切。当今AI的许多弊端——偏见、歧视、排斥、虚假信息、环境破坏、对儿童福祉的威胁——往往被描述为进步带来的不幸副作用。但它们绝不仅仅是副作用，而是证明在构思这些系统时，有些人被遗漏、忽视或漠视了。
技术并非中立，算法亦然。每一个系统都承载着创造者所秉持的假设、优先事项和价值观。正因为AI是在人类积累的知识基础上进行训练的，它也吸收了人类长期积累下来的偏见、不平等以及历史不公。
人权不能只是建筑完工后才涂上的油漆，而必须成为整个结构的承重柱。我们相信桥体已经在人们经过前实施安全检查，因为安全是它功能的核心，而AI显然也应遵循同样的标准。同情心不能在部署后才进行加装，而是必须主导整个系统设计。
改变这项技术的发展轨迹是当务之急。如今的孩子与智能机器互动的时间，可能比与父母、教师或邻居相处的时间还要多。我们已了解社交媒体带来的一些负面心理影响，而社交媒体所依赖的还只是相对简单的AI形式。我们目前依然在很大程度上不清楚那些能力远超于此的系统，对儿童的情感发展、人际关系、想象力和心理健康会产生何种影响，但这些影响可能极为深远。
道德问题必须优先于技术问题
与其过分聚焦于AI将如何改变经济，我们更应思考在算法取代人类特有的“感同身受”能力后，会是何种情景。如果它们从未被设计去识别痛苦，那又如何能维护正义？ 如果它们只追求参与度、效率和利润的优化，那又如何能促进和平？这些道德问题必须优先于技术问题，因为它们将塑造人类的未来。
当然，AI有可能成为人类最有力的盟友之一。它有助于根除现代奴隶制和人口贩运，侦测儿童性虐待，让每个孩子都能以母语获得高质量教育，改善医疗资源匮乏社区的医疗服务，预测人道主义危机，并加速各项可持续发展目标的实现进程。
但AI不会去主动选择那个未来，选择权在我们手中。我们今天确立的原则将成为我们正在构建的、日益强大系统的基础。一旦这些基础凝结为标准、制度和商业模式，它们就会在未来数代人的时间里塑造人类与智能机器之间的关系。
我们绝不能等到危害变得不可逆转才采取行动。立法以往都是在苦难发生后跟进，但在AI领域，我们已不再有走一步看一步的空间。智能时代需要的是智慧。 历史对我们的评价并不取决于机器能变得多么智能，而是我们是否具备远见和勇气去确保这种智能始终服务于人类。
作者Kailash Satyarthi是诺贝尔和平奖得主，“诺贝尔奖得主与领袖保护儿童倡议”（Laureates and Leaders for Children）创始人
英文原题：The World Needs Compassionate AI
版权所有：Project Syndicate, 2026
