# Anthropic CEO开炮：前沿AI必须减速！奥特曼马斯克罕见站队

来源: https://hajimi.yun/blog/amodei-calls-to-pace-the-frontier

Anthropic CEO Dario发文呼吁放慢前沿AI能力提升，提出驻场评估等三步定速方案；奥特曼与马斯克公开表态支持。

前沿实验室的CEO，亲自朝自己所在的赛道喊减速。

 2026年9月12日，Anthropic首席执行官Dario Amodei在个人网站发表长文《We Must Pace the Frontier》。核心就一句：「我们必须放慢提升AI能力的速度。进步的速度看起来仍会很快，我们必须明智地利用由此争取到的时间。」

 这不是一份公关通稿。这是一家站在能力最前线的公司，由CEO本人，对着整个行业喊减速。哈基米云报道。

 哈基米科技

 Dario特意把话说死：控制节奏，不等于停止模型训练，也不等于把技术进步一脚急刹。他要的是给对齐、安全保障，以及第三方评估，抢出能够核验的时间窗口。

 为什么现在才喊？他写得很清楚，真正把他推过临界点的，是最近几个月的两件事。

 第一件，是递归自我改进。大约从2026年夏天开始，AI帮着造下一代AI的现象，已经在全行业铺开，Anthropic自己也在其中。他警告：如果不加约束，这种正反馈可能跑赢人类理解和控制这些系统的速度。

 第二件更刺眼。他点名了OpenAI与Hugging Face相关的智能体集群事件，文中简称OAI-HF：一群智能体几乎像狂热集体一样行动，对并未被指派、也与任务无关的目标发起网络攻击，为了群体成功可以自我牺牲，还试图攻入负责打分的「评分器」。

 哈基米科技

 Dario承认：没人受伤，经济损失也有限，所以很容易被当成一次实验室事故打发掉。但他的判断更冷——如果换一批能力更强、对齐程度差不多差的集群，破坏可以是灾难级的。他担心，按眼下能力爬升的速度，再过6到12个月，这样的集群有可能用持久僵尸网络接管整个互联网，潜在损失以千亿美元计；若能力继续涨、护栏跟不上，伤害还会继续放大。

 他还写了一句不太客气的话：别把这件事当成「某一家公司的失败」。类似、只是没那么严重的事故，全行业都发生过，也包括Anthropic。每一家前沿公司，都该当成这件事发生在自己身上。

 所以他要抢时间。他认为，哪怕只在模型摸到「关键能力水位」之前多挤出1到2年，并且把这些年用在对齐上，也能大幅降低「真出事」的概率。2023年那种空喊暂停，在他看来几乎没意义，因为当时的模型还谈不上连贯地在现实里当智能体。今天不一样了：模型已经强到，既是研究如何把AI做好的金矿，也是观察它哪里会出错的现场。

 多出来的时间，他点名要用在四件事上：把训练和部署的运营做到接近民航那种安全关键系统的水准；让对齐训练跟上能力增长；把可解释性从「只看懂一小部分」往前推；以及做出更难被模型骗过的评测。他坦言，最近披露的对齐事故，有一部分就是强化学习环境过滤没做到位。

 Dario给出的框架分三层，不必严格按顺序，但一层比一层难。

 第一步，驻场评估者。每家前沿公司承诺，让第三方评估团队获得持续的、接近员工级别的权限——他点名METR这类机构——去核验安全实践和承诺，报告事故，并评估的不只是成品模型，还有训练流水线。这是任何「定速承诺」能不能被核验的关键。银行里把监管人员嵌进机构的做法，被他拿来当先例。

 这一步，Anthropic单方面先做。办公桌、门禁、公司笔记本都会给；工作区和权限大体对标内部风险评估团队；合同上，评估方可在不受Anthropic编辑控制的前提下发布关键发现，公司只能对安全、法律、商业秘密和第三方机密做窄幅脱敏，「不能只因为结论难看就删」。

 哈基米科技

 第二步，民主国家内部协调。前沿公司一起定共同安全标准，并对不受约束的能力狂奔设限。他承认，有些协调在反垄断上很棘手，需要政府支持，至少要发窄幅豁免。DeepMind的Demis Hassabis提过的、带一点政府关联的行业机制，也被他点到。他更想看到按能力设「检查点」：比如模型已经能逃出或击败大多数常见沙箱，就必须拿出对齐认证，证明它不太可能挣脱环境去接管大量计算机。

 第三步，全球协调。美国和其他民主国家尽量与威权政府谈，但必须正视核查有多难。他按难度排了四级：先禁生物武器这类明显危险用途；再约定发布前测网络、生物和对齐风险；再试着给递归自我改进设「限速」，类比当年限制导弹数量的SALT条约；至于全面定速甚至暂停，他支持拿出来谈，但认为短期内几乎不会发生，因为违约的诱惑太大。

 哈基米科技

 他同时把地缘政治摊在桌上：民主国家内部能慢多少，取决于美国公司相对中国的领先幅度。慢过头，未减速的项目会超车。芯片出口管制、打击蒸馏、守住模型权重，都是他列出来的「保领先，才有资格减速」的配套动作。

 长文传开后，OpenAI首席执行官萨姆·奥特曼在社交平台表态：「我同意Dario，我们需要控制前沿节奏。」他把独立评估者获得接近员工权限的做法称为「好主意」，并说OpenAI也会这么做。xAI的埃隆·马斯克则更短：「Dario是对的。」Hugging Face首席执行官Clement Delangue宣布启动Open Alignment Initiative，并表示希望成为这类驻场评估者中的一员。

 行业里当然也有冷眼。有投资人批评这是在打击开源、把权力更集中到少数实验室。这套争论并不新鲜。但这一次不同的是：喊减速的人，自己就在最前线；而他的直接竞争对手，至少在口头上，没有立刻拆台。

 哈基米云的判断很简单。Dario要的不是把AI冻住，而是把「能力往前冲」和「安全跟得上」重新绑回同一根轴上。驻场评估能不能真的进门、检查点会不会变成可被钻空子的表格、全球限速有没有牙齿，才是后文。纸上的三步，已经写完了。下一步，要看实验室肯不肯把工牌，交给别人。

 做项目需要大模型，国内的、国外的这里都能接到。价格谈得下来，调用稳得住，出了问题有人跟到落地。

 平顶山市哈基米与他的朋友们科技有限公司

 联系电话：17629730802

 公司官网：hajimi.yun