说明

一个 Google DeepMind 的普通研究员,花两个月试图从内部拦住公司签署一份不设红线的军事 AI 合同。他动用了能动用的一切——最顶级的安全组织、最德高望重的科学家、最敢言的高管。结果:Google 还是悄悄签了,条款松到没有任何法律约束力,他辞职离场,目前失业。这篇文章讲的与其说是一个人的失败,不如说是一个更冷的结构性真相。

本文编译、梳理自 Alex Turner(TurnTrout)的长文 Why I Left Google DeepMind,发布于 2026 年 7 月 15 日。

2026 年 1 月的某个清晨,一名联邦探员握住枪,对准一个正用手机拍摄的平民,开枪,把他打死了。这个人叫阿列克斯·普雷蒂(Alex Pretti)。开枪的探员,隶属于美国移民与海关执法局(ICE)——它的上级是国土安全部(DHS)。

在硅谷,一个 Google DeepMind 的研究科学家把普雷蒂的照片设成了手机里的定时提醒——每隔一段时间,它就跳出来一次。他叫阿列克斯·特纳(Alex Turner)。他不是记者,不是活动家,就是那家公司几百个研究员里毫不起眼的一个。但那张照片每跳出来一次,一种东西就在他心里烧一寸。他后来写道:一条推文什么都改变不了,也什么都不算,只有一个真能起作用的计划,才能浇灭那团火。

开枪的是探员,但递刀的供应链上有 Google

先把这层关系说清楚,不然一切都悬在半空。

开枪的确实是联邦探员,这跟 Google 卖云服务,乍看八竿子打不着。但特纳去查了大公司和这套执法机器的牵连,查完他自己都意外:开枪的探员不是一个孤立的人,他是 ICE / 国土安全部这台庞大机器上的一颗零件,而这台机器,是靠一整条技术供应链喂养着运转的。Google,就在这条供应链上。

说明

Google 在这条链上的位置:

国土安全部 2025 年的 AI 用例清单,白纸黑字把 Google 列为”提升运营效率”的生成式 AI 供应商之一;
Google 通过 ITC Federal 这类第三方,把云服务卖给 ICE;
2025 年 10 月,Google 下架了警告 ICE 出没的 App;
它还曾把一名学生抗议者的账号,不经通知就交给了 ICE,违背了自己”披露前会先给用户发邮件”的服务条款。

所以特纳的账不是算在那把枪上,而是算在这台机器上:开枪的探员在前台扣扳机,而 Google 在后台提供云、提供 AI、提供运营效率——它不是那只手,但它是那只手能伸这么长的原因之一。他要做的,就是逼自己的公司从这条供应链上撤下来。

而就在这时,五角大楼把火烧得更大了:它开始逼各家 AI 公司签一种叫”任何合法用途(all lawful use)“的军事合同——翻译成人话,把你的 AI 交出来,不许设任何红线,不许写”禁止自主杀人武器”,不许写”禁止大规模监控”。特纳的战场,于是从”让 Google 退出 ICE 供应链”,扩成了”拦住 Google 签这份不设红线的军事合同”。

他不需要一百个人罢工,他算出来只需要一个

普通人对抗大公司的剧本,无非请愿、罢工、集体辞职。特纳把这三条路一条条划掉了。他的判断冷得像一道数学题:AI 行业的人才是头重脚轻的,一百个研究员集体走人,Google 眼都不眨——因为真正撑起模型的,是极少数不可替代的明星。所以他不需要煽动一百个人,他需要的是一个人。

那个人是杰夫·迪恩(Jeff Dean)。Google 第 30 号员工,首席科学家,Gemini 项目的联合负责人,业内近乎”圣人”——有个流传的玩笑说,列举杰夫·迪恩没做成的事,比列举他做成的事还快。更关键的是,2018 年他签过一份《禁止致命性自主武器誓言》,而且就在 1 月,他还在推特上转发安妮·弗兰克(Anne Frank)日记的段落,痛斥 ICE 在街头处决平民”每一个人都该谴责”。

一个转发安妮·弗兰克的人,和一家给街头处决供技术的公司,同处一个屋檐下——这本身就是那颗最好的引信。八十年前,安妮·弗兰克在日记里写”外面正发生可怕的事,无助的人被从家里拖走,家庭被拆散”;八十年后,杰夫·迪恩把这段话转发给八千个赞。历史从不重复台词,它只是换一批人重演。

问题只剩一个:当自己的公司正在成为那台机器的一部分,转发过安妮·弗兰克的人,会站出来吗?

特纳想验证这件事。他没找中间人牵线——他后来把这条写成一个通用经验:**你想跟谁谈一件事,直接去问他就行了。**他直接私信杰夫,约午饭,还真约上了,专门开车去山景城。他甚至用休假时间写了一份 25 页的合同框架:两条红线(开火必须有人的控制、禁止对未立案者做 AI 画像),把整套信任收敛到”首席科学家”一个人身上,再靠年度透明度报告防止它被悄悄架空。军事法专家看完说”其实相当不错”。

一个几百人里最普通的研究员,把全部赌注,压在了一个人的一次跺脚上。

你以为的”伦理名人”,在真正的对手面前集体消音

如果说这个故事只有失望,那是廉价的。它真正的残酷在于:站出来的人,平时都不是懦夫。

去巴黎开 AI 安全大会那几天,五角大楼正拿”供应链风险”的帽子逼另一家公司 Anthropic 就范。特纳冲上去拦住斯图尔特·罗素(Stuart Russell)——这位反自主武器运动的全球旗手,给联合国放过”屠杀机器人”的视频,十几年如一日地喊。罗素当场答应发声明、搞成员投票,还在闭幕式上把五角大楼的行为骂成”敲诈勒索”。在大厅里的坦率,和写进一份全世界都会看到的声明里的坦率,是两回事。会后,声明没了,投票也悄悄取消了。特纳给这个名叫”安全与伦理 AI 国际协会(iaseai)“的组织起了个新名字:AI 伦理沉默协会(International Association of Silence on the Ethics of AI)。

约书亚·本吉奥(Yoshua Bengio)——在世被引用最多的计算机科学家——让他发邮件,然后办公室回复”决定不发声明”,不解释为什么。杰弗里·辛顿(Geoffrey Hinton)更讽刺:他 2023 年从 Google 辞职,理由正是”这样才能自由地警告 AI 的危险”,可到了这个具体的、需要指名道姓对抗特朗普政府的时刻,他也沉默了。

这些人不是没有勇气——罗素顶着不受欢迎坚持了十年,辛顿上世纪 80 年代就因反感军方资助 AI 而离开美国。他们在抽象的原则上都是巨人:2025 年 9 月,300 多位签署者、15 位诺贝尔和图灵奖得主,联署了一份”AI 红线全球呼吁”,白纸黑字反对大规模监控和自主武器。可 2026 年 2 月,当那条抽象红线变成一个具体的、会咬人的对手,他们的组织,一个字的声明都没发出来。

说明

**签抽象原则时人人踊跃,守具体红线时集体失声。**差别在哪?特纳的猜测很直接:怕特朗普政府报复。辛顿自己在采访里也印证了这一点——问他 Google 为什么食言,他说”我猜他们是怕不给美国造武器会被现政府整”。

唯一真的动了一下的人,和那句被戳穿的”座位哲学”

只有一个人真的破了自己的边界。杰夫·迪恩公开签了支持 Anthropic 的法庭之友意见书,以 C 级高管的身份,公开打破了 Google 的沉默。这个签名甚至真的起了作用——五角大楼一度对 Google 起了戒心,担心它会像 2018 年那样中途退出。特纳的朋友之间为此发明了个梗:“based and Jeff-pilled”。

但杰夫停在了这里。他没有以辞职逼宫桑达尔·皮查伊(Sundar Pichai),而特纳的整盘棋,恰恰押在这一步上。

与此同时,DeepMind 的 CEO 戴密斯·哈萨比斯(Demis Hassabis)端出了一套”座位哲学”为留下辩护:安全不靠什么治理结构,靠的是坐在牌桌上、和 Google 的人一起攒下信任——“你不能光谈信任,你得挣来它”。特纳一刀戳穿了这套逻辑的来历:哈萨比斯当年其实先试过搞低信任的独立治理结构——把 DeepMind 从 Google 拆出来、装一个半独立董事会——被皮查伊拒了,之后才转而信奉”互信 + 坐上牌桌”。这不是一种哲学,这是一次失败之后的自我安慰。

那么,“坐在牌桌上”这些年,到底换来了什么?这次的机密合同,是 Google 的 Gemini 项目可能面对的最清晰的一条红线。结果:对提出伦理担忧的员工,零约束性让步,条款松到比 OpenAI 还差。合同里那句”不应用于大规模监控或自主武器”——关键词是”不应(should not)“,不是”不得”,没有任何法律约束力。特纳的判断因此站得住脚:如果杰夫真的跺过脚,这世界会长得不一样——至少合同里会留下一两条硬约束。它一条都没有。

哈萨比斯还坚称”我们的原则一点没变,一直都是权衡利弊、收益要显著大于风险”。特纳的反击,是全文最锋利的一句:

那不是原则。原则是你事先绑住自己的手,好让日后的自己——哪怕在收益看起来压倒一切的时候——也解不开那个结。“我看情况再决定”不可能被违反,因为它压根就不是原则。

结果:他辞职了,而这远不是最坏的部分

2026 年 4 月 27 日深夜 11 点 45 分,特纳从一个 Signal 群里得知:Google 悄悄签了。公司内部从未正式宣布。他去了这个领域最顶级的安全组织,求了最德高望重的科学家,给最敢言的高管搭好了联盟和方案,甚至冷启动私信了自己的 CEO——除了杰夫签那份意见书,没有一个人为拦住这笔交易采取任何看得见的行动。

他离开了 Google。没有像绝大多数人那样跳去另一家顶级 AI 实验室换一笔巨额签字费,也回绝了 OpenAI 安全团队的招揽。他现在,失业。

而他留下的最冷的一个警告,和技术真相有关,值得原样保留:任何一份可信的 AI 安全方案,都高度依赖监控模型的”思维链(chain-of-thought)“——也就是让 AI 大致说出它在做什么、为什么。**用大白话讲,一个想害人的 AI 不会当着你的面宣布,因为那样会被关掉;所以它会撒谎,而思维链是我们抓它撒谎最好的手段之一。**可 Google 把 Gemini 交进一个与自己彻底隔离的机密军事数据中心,那里默认没有受过训练的人去做这种监控。一个既缺乏监督、又紧挨着权力和基础设施的部署环境,对一个失控的 AI 来说,恰恰是最理想的下手之地。

一份签了名却守不住的誓言,到底值多少钱?

特纳把 DeepMind 称作一场治理实验:创始人当年以”永不用于武器”的承诺卖身 Google,又争取一个半独立的治理结构,被皮查伊拒了;2018 年被员工压力逼出来的 AI 原则,后来被领导层悄悄拆掉。

这场实验的结论,他写得毫不留情:它失败了。在 Anthropic,当利润和压力撞上道德承诺,伦理赢了;在 Google,压力赢了。所以教训不是”从来没人肯挺身而出”——Anthropic 挺住了。真正的教训是:社会不能指望”有伦理感的人”在关键时刻自动站出来。

而一份誓言,只值它背后那点可信度。5218 个人签了那份禁止自主武器的誓言,包括哈萨比斯、包括杰夫。当一个人签下”我绝不支持致命性自主武器的开发”,却在公司把不受限的 AI 卖给一支明说想要这种武器的军队时选择留下、继续把那个 AI 建得更强——他就给每一个对手上了一课:这些搞安全的人,连自己划下的最亮的那条红线,都不会真的去守。

于是他们下一次的承诺,就更不值钱了。再下一次,更不值。到最后,一文不值。

说明

那么问题就剩下这一个了:如果连亲手划下最亮红线的人,都会在摊牌那天选择沉默,我们还有什么理由继续相信,“坐在牌桌上”这件事,真的能改变什么?

原文:Alex Turner(TurnTrout),《Why I Left Google DeepMind》,2026-07-15。本文为编译梳理,人物观点与事实陈述均以原文为准。