Hinton 联合 20 多位 AI 大牛警告：「智能爆炸」时代要来了 — RSI 递归自我改进三阶段
⭐ **剑桥 CASP**（⭐ **中文版**）+ ⭐ **20 多位 AI 大佬联名**：⭐ **OpenAI Jakub Pachocki + Anthropic Jack Clark + 微软 Eric Horvitz + Hinton + Bengio + Dawn Song**。⭐ **数据**：⭐ **Anthropic AI 生成获批代码个位数 → 80%**（1 年）/ ⭐ **完全 AI 自主研发 1% → 26%**（5 个月）。
一句话总结
⭐ 剑桥 CASP（⭐ 中文版）+ ⭐ 20 多位 AI 大佬联名：⭐ OpenAI Jakub Pachocki + Anthropic Jack Clark + 微软 Eric Horvitz + Hinton + Bengio + Dawn Song。⭐ 数据：⭐ Anthropic AI 生成获批代码个位数 → 80%（1 年）/ ⭐ 完全 AI 自主研发 1% → 26%（5 个月）。⭐ RSI 三阶段：(1) ⭐ AI = 辅助工具（效率提升）→ (2) ⭐ AI = 流水线一部分（增加”有效研究员数量”）→ (3) ⭐ 真递归（新模型回研发流程承担更多任务）。⭐ 报告估算：⭐ 18 个月技术进步速度提 10 倍（1 年 → 5 周）。⭐ Hinton 定义：AI 研发自动化带来的突然加速 = 「智能爆炸」。⚠️ 但报告承认：证据不足 / 模型必须达专家水平 + 成本不涨 / 串行问题 / 算力 / 训练数据 仍是瓶颈。
一、报告概况 ⭐
“「AI 之父」又出来发声警告了，这一次还拉上了一众行业大佬，对最近热门的「RSI」开炮。”
| 维度 | 详情 |
|---|---|
| ⭐ 机构 | ⭐ 剑桥大学人工智能科学与政策项目 CASP |
| ⭐ 作者 | ⭐ 20 多位研究者共同撰写 |
| ⭐ 代表人物 | ⭐ OpenAI 首席科学家 Jakub Pachocki + ⭐ Anthropic 联创 Jack Clark + ⭐ 微软首席科学官 Eric Horvitz + ⭐ Geoffrey Hinton + ⭐ Yoshua Bengio + ⭐ Dawn Song |
| ⭐ 中文版 | ⭐ 官方同步发布中文版 |
“贴心的是，这次剑桥的官方发布还配备了中文版，AI 行业的中国力量，重要性不言而喻。”
二、⭐ 关键数据 ⭐
Anthropic ⭐
| 指标 | 2025 年初 | 2026 年 5 月 | 涨幅 |
|---|---|---|---|
| ⭐ AI 生成 + 人类获批的代码占比 | ⭐ 个位数 % | ⭐ 80%+ | ⭐ 1 年涨 10× |
| ⭐ AI 完全主导 + 人类仅高层监督的研发占比 | — | ⭐ 2026-03 = 1% / 08 = 26% | ⭐ 5 个月涨 26× |
“Claude 官方数据披露 AI 已深度参与其自身迭代。”
OpenAI ⭐
“代码 Agent 已经被用于未来模型的训练、评估和安全工作。”
Google ⭐
“几乎所有涉及代码、技术设计和研究构思的工作，都在不同程度上使用 AI。”
外推 ⭐
“几年前，模型只能可靠完成相当于人类数秒钟的任务。如今，最强的模型已经能够独立处理需要专家花费数小时乃至数天的 AI 研发工作。”
“按近年的增长趋势外推，到 2028 年中，AI 可能有能力承担原本需要人类专家数月完成的研发项目。”
三、⭐ RSI 三阶段 ⭐
“「递归自我改进」（recursive self-improvement）—— 想象有一家工厂，专门生产一种机器，但第一台机器造出来以后，却没有被送去商店，而是留在厂里，负责修改生产线。”
阶段 1：⭐ AI = 辅助工具
“人类决定研究方向、设计实验，再让模型帮助写代码、检索论文和寻找程序错误。”
⭐ 特征：
- AI 提高效率，不决定下一步该做什么
- 整个研发过程仍由人推动
阶段 2：⭐ AI = 流水线一部分
“研究员只需要提出一个较高层的目标，Agent 便能拆解任务、编写代码、运行实验、比较不同方案，再将值得继续尝试的方向交给人类确认。”
⭐ 特征：
- ⭐ 增加”有效研究员数量” —— 同一个人可同时调度 ⭐ 几十甚至几百个 Agent 沿不同方向并行试错
- 推理能力完全承受得住
阶段 3：⭐ 真递归
“AI 参与研发出更强、更便宜的下一代模型，新模型随即被放回研发流程，开始承担更多任务，同时让公司能够运行更多「机器研究员」。”
⭐ 特征：
- ⭐ 研发能力的提高不再是一次性的
- ⭐ 它会反过来加快下一轮提高
- ⭐ 真正发生自我改进的是整套系统（模型 + Agent + 算力 + 人类）
四、⭐ 爆炸性预测 ⭐
“AI 研发尤其容易形成这种循环，因为它主要发生在数字世界。”
| 领域 | 反馈周期 |
|---|---|
| ⭐ 新芯片 | ⭐ 年（设计 → 制造 → 运输 → 数据中心建设） |
| ⭐ 训练算法 / 合成数据 / Agent 工作流 | ⭐ 数天到数周（直接部署到现有系统） |
⭐ 报告核心估算 ⭐
“假如 AI 达到顶尖研究员的能力，而运行成本仍然接近今天，单是 OpenAI 目前拥有的推理算力，理论上便足以支撑相当于数百万名人类研究员的 AI 队伍。”
| 维度 | 估算 |
|---|---|
| ⭐ OpenAI 推理算力理论支撑 | ⭐ 数百万名 AI 研究员 |
| ⭐ 18 个月后 AI 进步速度 | ⭐ 提高 10 倍 |
| ⭐ 原 1 年完成的进步 | ⭐ 压缩到 5 周 |
⭐ Hinton 的命名 ⭐
“Hinton 将这种由 AI 研发自动化带来的突然加速称为「智能爆炸」，其中「爆炸」的意思除了数量上的激增，强度和完成度也可能会迎来大爆发。”
五、⭐ 最近的 RSI 案例 ⭐
| 案例 | 详情 |
|---|---|
| ⭐ Google Research RRSI | ⭐ Agent 自动修改自己的 harness（⭐ 提示词 / 工具 / 记忆 / 控制流程 / 上下文管理） |
| ⭐ 9 月 MetaRSI / RSI² | ⭐ 系统从失败中改进「制造模型的机器」 —— ⭐ 让以后产生的模型继承这些改进 |
“最近几家大厂的动作，让「RSI」这个词快速出圈。”
六、⚠️ 报告的自我限定 ⭐
“报告同时承认，目前的证据远远不足以证明这种爆炸必然发生。”
⭐ 4 大保留条件：
- ⭐ 模型必须达专家水平 + 运行成本不涨
- ⭐ 更多 Agent ≠ 更多发现 —— 可能重复劳动，或在串行问题前一起停下
- ⭐ 训练下一代模型仍需实验算力 + 训练数据 + 持续数月的大型训练 —— 即便 AI 一分钟提 1 万个方案，现实算力也未必允许逐一验证
- ⭐ 生物 / 材料等领域等待实验结果时间无法被代码直接压缩
“研发回报率也来自历史数据，而历史上的算法进步与算力增长彼此纠缠，很难确认单靠软件改进，是否真的足以让循环持续加速。”
七、⭐ 与早间那篇的对比 ⭐
| 角度 | ⭐ 早间文章（22 署名） | ⭐ 本篇（20 多位 AppSo 解读版） |
|---|---|---|
| ⭐ 信源 | ⭐ 新智元 | ⭐ AppSo（爱范儿） |
| 语言 | 中文（专业） | 中文（更通俗 + 中文版官方） |
| ⭐ 作者群体 | ⭐ OpenAI + Anthropic + Meta + Google + Academia | ⭐ + 微软 Eric Horvitz |
| 核心论点 | 智能爆炸 + 三堵墙 + 监管呼吁 | ⭐ RSI 三阶段 + “工厂”比喻 + 真实案例 |
| ⭐ 互补价值 | ⭐ 学术 + 政策 | ⭐ 工程 + 比喻 + 案例 |
⭐ 两篇连读 = 完整的智能爆炸画面：早间 = 学术共识；本篇 = 工程视角 + 真实案例。
来源
- 网易新闻（AppSo / 爱范儿）· 原文
- 剑桥 CASP 报告
- Anthropic Claude 官方数据
- OpenAI / Google 公开声明
- 早间相关报道：Hinton、Bengio 等 22 位巨头重磅联名