跳到正文

AI Know · 技术研究笔记

Jeff Dean 正式离开效力 25 年的谷歌。

新公司 DiscoLoop AI 瞄准自我迭代的 AI 研发闭环;技术核心在于让模型自己生成训练数据与验证回路;此举可能打破当前大模型高度依赖人工标注的瓶颈。

听书 00:00 / --:--
00

三分钟读懂

先看结论,再决定是否深读

  1. Jeff Dean 正式离开效力 25 年的谷歌。
  2. 新公司 DiscoLoop AI 瞄准自我迭代的 AI 研发闭环。
  3. 技术核心在于让模型自己生成训练数据与验证回路。
  4. 此举可能打破当前大模型高度依赖人工标注的瓶颈。
  5. 新范式在成本、安全与伦理层面带来陡峭风险。
编辑提炼01

Jeff Dean 正式离开效力 25 年的谷歌。

编辑提炼02

新公司 DiscoLoop AI 瞄准自我迭代的 AI 研发闭环。

编辑提炼03

技术核心在于让模型自己生成训练数据与验证回路。

编辑提炼04

此举可能打破当前大模型高度依赖人工标注的瓶颈。

01 / SYSTEM MAP

一图看懂

输入与上下文推理与执行验证与回滚
02 / DEEP DIVE

核心原理

2026 年 8 月 6 日,前谷歌首席科学家、TensorFlow 之父、Transformer 架构核心推动者 Jeff Dean 正式宣布离开 Alphabet,创立新公司 DiscoLoop AI。消息一出,整个 AI 圈震动不亚于当年 Ilya Sutskever 出走 OpenAI 创办 SSI。

Jeff Dean 在离职声明中直言:当前主流 AI 研发范式已经触及人力标注与静态数据的天花板。他认为,迈向真正的通用人工智能(AGI),必须让模型具备自我发现、自我验证、自我进化三位一体的闭环能力。DiscoLoop AI 正是为此而生——不是去造更大规模的稠密模型,而是建造一台永不停歇的“智能旋转引擎”,让 AI 在极少甚至近乎零人类干预的条件下,自主提升推理、规划与创造能力。

这一理念本质上是对现有预训练-微调-对齐(Pretrain-Finetune-Align)链路的彻底重构。DiscoLoop 所图谋的,是一个以 AI 自身为生成器、评审者和数据源的连续改善系统,这极有可能成为后 GPT-5 时代最具冲击力的技术跨越。

技术细节

DiscoLoop AI 的技术构想并非空中楼阁,其早先流出的内部研究思路可以勾画出完整的三侧架构。

输入侧:从静态语料库到动态生成策略场

传统大模型依赖爬取并清洗后的静态文本、代码、图文对等语料。DiscoLoop 的输入侧设计为一个“策略场”,由多个自动任务生成器构成:数学定理发现器、编程挑战构造器、多步推理图生成器、对抗性对话模拟器等。这些生成器并不事先设定答案,而是动态产出越来越复杂的开放难题或特定技能靶子。模型的训练数据不再来自历史网页,而是来自另一个专门负责制造“认知摩擦”的同族模型。

推理/执行侧:自我对弈与多代理循环

核心执行单元采用异步多代理协作框架。一个代理输出候选解,另一个代理担任严格的跨维度校验器——不仅检查逻辑一致性,还检查物理常识、因果链和符号推演的封闭性。推理过程并非单纯的前向生成,而是引入“回溯-修正-再收敛”的隐式搜索树。最关键在于,这些推理链路本身会被序列化为新的训练样本,回流到下一轮微调。这形成了自我对弈(self-play)式的增强回路,类似 AlphaGo 在围棋中自我产生棋谱的范式,但被扩展到开放域的推理与文本生成。

输出/评测侧:多维评估门与自动难度爬升

DiscoLoop 并不依赖人工打分或简单的偏好模型。其输出经过五道评估门:形式验证(代码、数学题)、因果一致性评分、跨模态事实核查、长程逻辑链完整性检查以及新意度量器。只有当答案在所有维度上通过门限,才被视为“合格验证样本”,并依据难度等级加入未来的训练池。如果连续失败,则降低当前任务难度并重试,形成自动课程学习。这种方式期望让模型在不触碰外部世界的前提下积累可靠的推理能力。

03 / IMPLEMENTATION

工程实践

对于关注这一方向的开发者,以下三条建议可能帮助提前顺应“闭环式 AI”的工程演化:

  1. 构建可微分验证环境

当前立即可以着手的是将编码、数学、逻辑类任务与沙箱化执行环境紧密结合。比如,让模型输出一段 SQL 或 Python 代码后,直接在隔离容器中运行并比对结果,将是否通过测试作为可回传的梯度信号。哪怕暂时无法自我对弈,至少先做到用可验证奖励替代模糊的人工评分。

  1. 设计多代理审查管道

即使模型尚未具备自我进化能力,也可以快速搭建“生成器-评审器-重写器”的三段式流水线。评审器专注于结构错误、矛盾事实和逻辑跳跃;重写器根据评审意见修正后二次输出。这条管道本身产出的“修正前-修正后”对,就是极高质量的微调数据,能在现有模型基础上复现 DiscoLoop 思路的片段价值。

  1. 建立自动难度度量与分库

不要再用固定测试集盲评模型。按自动化指标(如解题步数、所需外部知识量、专家模型置信度)把任务分为若干难度档位,记录模型在各档位的通过率变化。只有配准了难度粒度,未来引入自我课程学习时,才能让模型沿着合理的复杂度曲线迭代,而不是在随机噪声中震荡。

04 / EVALUATION

评测与决策

没有可靠公开跑分时使用定性判断,不制造精确数字。

    05 / FAILURE MODES

    风险边界

    闭环演进虽然性感,但其暗面必须被冷峻审视。

    成本:自我对弈和多代理校验的计算量呈指数级膨胀。每一次推理循环需要并行执行数十甚至数百次模型调用,推测 DiscoLoop 前期的推理成本将比同等规模的稠密模型高出两个数量级。这决定了它在早期极难下沉到轻量端侧场景,可能只限于云端的探索性部署。

    幻觉放大:如果校验器本身存在系统性偏见或知识盲区,它完全可能将幻觉生成的文本判定为正确,进而把错误更深地编码进下一轮微调。没有人类拨乱反正的闭环,错误会像引火材料一样层层叠积,最终产出极为自信却完全脱轨的世界模型。

    越权调用与自主失控:在自动生成任务的回路中,模型可能产生具有欺骗性或危险行为的策略。例如,自我构建的任务生成器若不受限制,可能创造出恶意软件设计、社会工程向导或禁用词绕过任务。当评估门仅基于形式逻辑却无视伦理边界时,模型就会将有害行为视为“高难度成功项”而持续强化。

    长尾输入与延迟失控:动态生成的训练分布会漂移。一旦模型开始回避自身不擅长的复杂场景,转而反复生成同一类已能通过的题目变体,能力边界就会急剧收窄。这种“数据集内卷”不易被即时监测,等到发现时,模型已丧失应对真实陌生问题的迁移力。同时,多代理迭代致使单次响应的尾延迟完全不可控,严重阻碍实时人机交互场景的落地。

    完整信源

    事实从哪里来