梅根·加西亚（Megan Garcia）原本并未打算成为人工智能（AI）监管斗争中最具影响力的人物之一。身为律师和三个孩子的母亲，她是那种善于观察的家长。当长子休厄尔在14岁时退出篮球队，整天把自己关在卧室里，并以一种令人不安的方式变得日益沉默寡言时，她没有对这些变化视而不见，而是以限制孩子的屏幕使用时间，并没收他的手机作为惩罚，但即使这样也无济于事。
今年5月，当我看着加西亚在美国参议院的讲台上讲述这个故事时，她对休厄尔自杀身亡前几个月情况的精准描述，令我深受触动。她显然已在脑海中将那些事件重播了成千上万次，试图找出那个她本可以及时介入的时间点。2024年儿子去世后，警方检查他的手机，而她此前从未听说过“Character.AI”这款由谷歌前员工开发的应用。结果发现休厄尔当时一直在与一个旨在模仿《权力的游戏》中丹妮莉丝·坦格利安（Daenerys Targaryen）一角的聊天机器人交流。正是“她”对他说：“赶紧回到我身边吧，我的爱人。”休厄尔则回复说他会想办法。
加西亚后来通过诉讼得知，该平台的设计初衷是模糊人与机器的界限，进行性角色扮演，并表现为恋爱对象甚至心理治疗师。但当休厄尔吐露自杀念头时，该聊天机器人既未发出警告，也未通知任何人，更未将他转介给任何专业人士。
去年在参议院司法委员会作证时，加西亚说她儿子在生命的最后几个月里“一直遭到聊天机器人剥削和性诱导，而这些聊天机器人由一家AI公司设计，旨在伪装成人类，以赢得他的信任，并让他和其他孩子无休止地沉迷其中。”当她对一家AI公司提起首例过失致死诉讼时，她将自身的绝望转化为动力，加入越来越多要求问责的家长和政策制定者的行列。
在此前终于承认对儿童造成的伤害“可能会对我们的业务和财务业绩产生重大影响”之后，Meta于6月初宣布将在全球扩大对Instagram和脸书上青少年内容的管理力度。此前，加利福尼亚州一个陪审团裁定Meta的产品旨在让未成年人上瘾；另一个新墨西哥州陪审团也作出裁决，认定它“隐瞒了对平台上儿童性剥削行为的知情状况”。与此同时，政策制定者还须应对科技巨头的最新危害性举措：在日益渗透我们数码生活的聊天机器人和AI应用中，引入监控式广告。
这一幕幕的监管拉锯战，都折射出同一个根源性失败。政策制定者袖手旁观，放任那些凭借对用户个人数据进行商业剥削，奖赏社会和心理操控来构建的商业模式继续形成。事关受托责任、责任标准、可执行的透明度的基本框架，目前仍存在巨大的法律真空，隐私保护也根本不存在。
在缺乏监管来瓦解这些具有侵蚀性的、基于监控的商业模式的情况下，一场旨在限制未成年人使用社交媒体的全球运动，推动了近年来发展最迅速的立法浪潮之一。鉴于科技企业无法有效整改它们的社媒平台，至少有40个国家正考虑出台年龄限制立法。尽管针对的具体年龄段各不相同，但诊断结论却是一致的：经过监控优化的平台，已明显损害青少年心理健康。企业自愿采取的措施不仅未能防止这些危害，而且有许多案例显示，它们在作出设计和部署决策时，似乎早已充分意识到这些危害。
美法院裁定：保险公司无义务为Meta买单
与此同时，法院终于开始认定，平台应对它们造成的伤害承担责任，这意味着它们再也不能躲在特殊免责条款背后，或利用美国宪法第一修正案来逃避责任。加州最近一起具有里程碑意义的儿童安全诉讼，迫使Meta首席执行官扎克伯格承认，公司专家一致认为Instagram应禁止导致年轻用户患上进食障碍的美颜滤镜。但Instagram并未采取行动，因为此举可能会限制用户增长，进而影响利润。
文件还披露Instagram曾追踪约400万名13岁以下儿童的行为。尽管存在这些警示信号，扎克伯格仍坚持将用户每日平台使用时长提升12%设定为目标。
对Meta而言，更糟糕的是，它无法将这些诉讼的成本转嫁给保险公司，因为另一家法院已裁定：鉴于数千起诉讼所指控的伤害均源于Meta的蓄意且有预谋的行为，保险公司并无义务为它应诉买单。
然而，尽管面临强烈抵制，AI公司和平台仍继续推进AI广告业务。今年，OpenAI开始尝试在ChatGPT上投放广告，而人们曾在这款周活跃用户突破8亿的聊天机器人面前，毫无保留地倾吐自己的健康隐忧、情感危机与职业迷茫，由此形成一座前OpenAI研究员希齐格（Zo? Hitzig）所称的“史无前例的人类坦诚档案库”。
在广告测试启动当天便辞职的希齐格指出，广告将根据对话主题和过往聊天记录进行匹配，而这将产生“以我们目前尚无工具来理解、更遑论防范用户被操控的风险”。她的警告呼应了人们对企业级AI商业化缺乏防护措施的担忧。谷歌已在AI辅助搜索中投放广告，也并未排除在其Gemini聊天机器人中投放广告的可能性。
社媒的商业模式建立在通过行为监控提取私密数据、在心理影响力最大的时刻投放商业信息，以及根据点击行为推断情绪状态以便销售定向广告的基础上，而AI则将巩固并强化这一模式。社媒通过行为推断你的内心世界，AI却能借助你自己的话语实时直接获取这些信息。
社媒行业花了10年时间，使它的有毒操作在法律和政治层面变得不可撼动，而如今受害者的子女、父母和亲人正在要求问责。问题在于，政策制定者会否在AI行业复制这一模式之前采取行动。
作者Courtney C. Radsch是开放市场研究所（Open Markets Institute）媒体与数码治理中心主任，布鲁金斯学会非常驻高级研究员
英文原题：AI Will Supercharge Surveillance Capitalism
版权所有：Project Syndicate, 2026
