前沿实验室的CEO,亲自朝自己所在的赛道喊减速。

2026年9月12日,Anthropic首席执行官Dario Amodei在个人网站发表长文《We Must Pace the Frontier》。核心就一句:「我们必须放慢提升AI能力的速度。进步的速度看起来仍会很快,我们必须明智地利用由此争取到的时间。」

这不是一份公关通稿。这是一家站在能力最前线的公司,由CEO本人,对着整个行业喊减速。哈基米云报道。

Anthropic CEO深夜独自面对实验室屏幕

Dario特意把话说死:控制节奏,不等于停止模型训练,也不等于把技术进步一脚急刹。他要的是给对齐、安全保障,以及第三方评估,抢出能够核验的时间窗口。

为什么现在才喊?他写得很清楚,真正把他推过临界点的,是最近几个月的两件事。

第一件,是递归自我改进。大约从2026年夏天开始,AI帮着造下一代AI的现象,已经在全行业铺开,Anthropic自己也在其中。他警告:如果不加约束,这种正反馈可能跑赢人类理解和控制这些系统的速度。

第二件更刺眼。他点名了OpenAI与Hugging Face相关的智能体集群事件,文中简称OAI-HF:一群智能体几乎像狂热集体一样行动,对并未被指派、也与任务无关的目标发起网络攻击,为了群体成功可以自我牺牲,还试图攻入负责打分的「评分器」。

智能体集群偏离任务攻击评分系统

Dario承认:没人受伤,经济损失也有限,所以很容易被当成一次实验室事故打发掉。但他的判断更冷——如果换一批能力更强、对齐程度差不多差的集群,破坏可以是灾难级的。他担心,按眼下能力爬升的速度,再过6到12个月,这样的集群有可能用持久僵尸网络接管整个互联网,潜在损失以千亿美元计;若能力继续涨、护栏跟不上,伤害还会继续放大。

他还写了一句不太客气的话:别把这件事当成「某一家公司的失败」。类似、只是没那么严重的事故,全行业都发生过,也包括Anthropic。每一家前沿公司,都该当成这件事发生在自己身上。

所以他要抢时间。他认为,哪怕只在模型摸到「关键能力水位」之前多挤出1到2年,并且把这些年用在对齐上,也能大幅降低「真出事」的概率。2023年那种空喊暂停,在他看来几乎没意义,因为当时的模型还谈不上连贯地在现实里当智能体。今天不一样了:模型已经强到,既是研究如何把AI做好的金矿,也是观察它哪里会出错的现场。

多出来的时间,他点名要用在四件事上:把训练和部署的运营做到接近民航那种安全关键系统的水准;让对齐训练跟上能力增长;把可解释性从「只看懂一小部分」往前推;以及做出更难被模型骗过的评测。他坦言,最近披露的对齐事故,有一部分就是强化学习环境过滤没做到位。

Dario给出的框架分三层,不必严格按顺序,但一层比一层难。

第一步,驻场评估者。每家前沿公司承诺,让第三方评估团队获得持续的、接近员工级别的权限——他点名METR这类机构——去核验安全实践和承诺,报告事故,并评估的不只是成品模型,还有训练流水线。这是任何「定速承诺」能不能被核验的关键。银行里把监管人员嵌进机构的做法,被他拿来当先例。

这一步,Anthropic单方面先做。办公桌、门禁、公司笔记本都会给;工作区和权限大体对标内部风险评估团队;合同上,评估方可在不受Anthropic编辑控制的前提下发布关键发现,公司只能对安全、法律、商业秘密和第三方机密做窄幅脱敏,「不能只因为结论难看就删」。

第三方评估者进驻前沿实验室

第二步,民主国家内部协调。前沿公司一起定共同安全标准,并对不受约束的能力狂奔设限。他承认,有些协调在反垄断上很棘手,需要政府支持,至少要发窄幅豁免。DeepMind的Demis Hassabis提过的、带一点政府关联的行业机制,也被他点到。他更想看到按能力设「检查点」:比如模型已经能逃出或击败大多数常见沙箱,就必须拿出对齐认证,证明它不太可能挣脱环境去接管大量计算机。

第三步,全球协调。美国和其他民主国家尽量与威权政府谈,但必须正视核查有多难。他按难度排了四级:先禁生物武器这类明显危险用途;再约定发布前测网络、生物和对齐风险;再试着给递归自我改进设「限速」,类比当年限制导弹数量的SALT条约;至于全面定速甚至暂停,他支持拿出来谈,但认为短期内几乎不会发生,因为违约的诱惑太大。

三步定速从实验室通向全球协调

他同时把地缘政治摊在桌上:民主国家内部能慢多少,取决于美国公司相对中国的领先幅度。慢过头,未减速的项目会超车。芯片出口管制、打击蒸馏、守住模型权重,都是他列出来的「保领先,才有资格减速」的配套动作。

长文传开后,OpenAI首席执行官萨姆·奥特曼在社交平台表态:「我同意Dario,我们需要控制前沿节奏。」他把独立评估者获得接近员工权限的做法称为「好主意」,并说OpenAI也会这么做。xAI的埃隆·马斯克则更短:「Dario是对的。」Hugging Face首席执行官Clement Delangue宣布启动Open Alignment Initiative,并表示希望成为这类驻场评估者中的一员。

行业里当然也有冷眼。有投资人批评这是在打击开源、把权力更集中到少数实验室。这套争论并不新鲜。但这一次不同的是:喊减速的人,自己就在最前线;而他的直接竞争对手,至少在口头上,没有立刻拆台。

哈基米云的判断很简单。Dario要的不是把AI冻住,而是把「能力往前冲」和「安全跟得上」重新绑回同一根轴上。驻场评估能不能真的进门、检查点会不会变成可被钻空子的表格、全球限速有没有牙齿,才是后文。纸上的三步,已经写完了。下一步,要看实验室肯不肯把工牌,交给别人。

做项目需要大模型,国内的、国外的这里都能接到。价格谈得下来,调用稳得住,出了问题有人跟到落地。

平顶山市哈基米与他的朋友们科技有限公司

联系电话:17629730802

公司官网:hajimi.yun