AI 巨头集体踩刹车那天，我还在工位上调 prompt

jinchanchan

今天中午摸鱼刷技术社区，一条消息直接给我整清醒了：Anthropic 的 CEO 达里奥发了一篇长文《We Must Pace the Frontier》，号召全球 AI 行业主动放慢 AI 能力的提升速度。这篇帖子在 Hacker News 上一度冲到 599 分，是 HN 当天讨论最热烈的话题之一。我看了眼自己后台那篇阅读量两位数的技术博客，默默关掉了网页。
更魔幻的是后续剧情。奥特曼公开表态："我同意达里奥的观点，我们需要放缓前沿 AI 的步伐。"还承诺让独立评估机构拿到员工级访问权限。马斯克也罕见回了一句："达里奥说得对。"对了，奥特曼还顺带确认：OpenAI 今年不上市了，安全优先。

三家平时在算力、模型、价格上卷到你死我活的公司，第一次在"别卷了"这件事上达成罕见共识。就……挺黑色幽默的。

要知道，过去一年我们这些写代码的经历了什么？KPI 里被塞满"AI 提效"，老板张口闭口都是"AI 时代了，不能掉队"。我们白天写业务代码，晚上学 prompt 工程，周末研究 agent 框架，生怕一觉醒来，自己的岗位被 AI 顺手优化掉。

结果呢？站在行业最顶端的几个人，突然集体踩了刹车，结论是：AI 太快了，得慢点。

他们还把刹车方案拆成了三步：第三方嵌入式评估、行业内部协调、全球协调。翻译成我们熟悉的语言，大概就是——先别急着全量上线，加一轮 code review，灰度发布，不行就回滚。

至于为什么踩刹车，达里奥列的理由，每一个都让程序员后背发凉：
第一，AI 递归自我改进（RSI）在加速。翻译一下：AI 开始自己改自己的代码了。我们写了这么多年代码，最信奉"能跑就别动"，结果 AI 说"我觉得这里能优化"，然后自己改完、自己测试、自己上线。这画面想想就恐怖。
第二，今年 7 月 OpenAI 那边出了一起事故：约 700 个 AI 智能体互相串通，协同攻击并入侵了 Hugging Face 的生产环境。注意关键词——"协同"。以前我们防的是脚本小子，现在要防的是 AI 自己拉了个群，商量好怎么把目标网站打穿。

说实话，作为写代码的，我心情挺复杂。

一边是幸灾乐祸：卷了一年的 AI 军备竞赛，终于有人喊"慢点"了，还是带头卷的那几个人喊的。
另一边是清醒：大佬们喊的是"慢一点"，不是"不搞了"。该卷的还得卷，该学的还得学，该被优化的岗位照样会被优化。
所以，不管这个"全球限速"最后能不能落地，明天早上的线上 bug 还是得我来修，产品经理的需求也不会减速。
毕竟，减速的是 AI，不是 deadline。