Anthropic 研究员 Coxon 辞职时喊的那句"先暂停提升模型能力"，听起来振聋发聩。但如果我们把时间轴拉长，会发现这句话不是第一次被喊——也不会是最后一次。真正值得追问的，不是"该不该停"，而是为什么每一次"暂停"都没真正发生过。
一、"暂停"不是新口号，而是一份"失效样本"
早在 2023 年 3 月，未来生命研究所（FLI）就发过一封《暂停巨型 AI 实验》公开信，呼吁所有实验室暂停训练比 GPT-4 更强的模型至少 6 个月。那封信阵容豪华：
- 3 万+ 人签名，包括 Bengio、Russell、Musk、Wozniak、Harari；
- 连 OpenAI、DeepMind、Anthropic 三家 CEO，都在这之后签了另一份"灭绝风险应列全球优先"的声明；
- 可结果呢？没有一家实验室真正暂停。GPT-5 照常在 2025 年发布。
更刺耳的是反对者的原话：Bill Gates 拒签，说"让某一群人暂停，解决不了挑战"；Sam Altman 说这封信"缺了大部分技术细节"；Reid Hoffman 直接称其为"作秀（virtue signalling）"。
换句话说，"暂停"从提出的第一天起，就是一个没有执行机制的口号。
二、根子在"多极竞赛"：你停，我不停
为什么口号落不了地？因为造 AI 不是一个封闭俱乐部，而是一场多极军备竞赛。
- 国家之间：美国、中国，以及背后的算力、资本、地缘博弈，没有人愿意把"智能优势"拱手让人。
- 公司之间：OpenAI、Anthropic、Google、Meta、xAI……每一家的融资、估值、产品节奏都绑定在"更快更强"上。
- 没有全球强制力：AI 没有《核不扩散条约》那样的硬约束，训练算力分散、开源模型遍地，想"全球一刀切"在物理上就做不到。
Coxon 自己其实说得很诚实：暂停要起效，只能是"政府强力干预"或"所有大厂一起慢下来"——而这两件事，现在一件都没发生。
这就成了一个典型的囚徒困境：单个玩家单方面停，等于把领先位置让给别人；所有人都理性地选择"不停"，于是赛道越跑越快。靠"自觉"的暂停，在这个结构里注定失效。
三、监管自己也在"钟摆"，刹车没有惯性
就算有人想踩刹车，制度本身也不稳。
最典型的例子在美国：2023 年 10 月，拜登签了行政令 EO 14110，要求最强 AI 系统的开发者向政府共享安全测试结果、建立红队评测标准。这是近年来最像样的"刹车设计"之一。
但 2025 年 1 月 20 日，特朗普上任第一天就撤销了它，三天后换成一纸"移除美国 AI 领导力障碍"的行政令——方向从"安全优先"直接翻成"加速优先"。
一条安全政策，随一任总统的偏好说没就没。这说明：在缺乏立法惯性时，"暂停/刹车"只是行政风向标，风一转就倒。这恰恰解释了为什么实验室宁愿在自己的 RSP 里做点自律，也不敢把身家押在"监管会兜底"。
四、"暂停"是口号，"护栏"才是工程
把视角从"停不停"切换到"怎么防"，结论反而清楚：
真正可执行的抓手，从来不是"不许变强"，而是给"变强"装护栏。
| 抓手 | 为什么比"暂停"更落地 |
|---|---|
| 算力许可 / 大集群备案 | 卡住最稀缺资源，有政策雏形 |
| 发布前独立第三方红队 | 不挡研发，只挡"带病上线" |
| Agent 自主行为边界 | 管住最现实的失控面（删库、泄密、攫权） |
| 吹哨人保护 + 安全团队一票否决 | 让内部清醒声音能拦住业务冲动 |
这也是"Pacing the Frontier（为前沿定速）"思路的精髓：不追求"停"，而追求"让能力增长的速度，始终慢于我们搞懂怎么安全使用它的速度"。
写在最后
Coxon 的辞职信，价值不在"吓人"，而在它逼出一个被竞赛掩盖的问题：我们既在加速，又没准备好边界。
但答案不应该是浪漫化的"全面停摆"——它既不可执行，又容易让真正的危险（自主 Agent 失控、权力集中、供应链投毒）在口号里被错过。我们要的，是刚性护栏，而不是浪漫刹车。
下一次再有人喊"暂停 AI"，你可以笑着回一句：别问停不停，问护栏装了没。
你认同"先装护栏、不急于喊停"这个思路吗？还是觉得风险太大、宁可先停？ 评论区见——如果这篇对你有启发，也欢迎把前两篇（《一个研究员辞职警告》《企业该警惕的 3 类真实风险》）一起转给身边做技术的朋友。
（本文事实基于 FLI 2023 暂停信及公开签署名单、美国 EO 14110 与后续撤销、Anthropic RSP 公开文件、Coxon 离职长文等公开来源。）
