[arXivPaper] New Formula for AI Superintelligence

论文来自清华大学自动化系，核心观点： 通往AGI不能只无脑堆大模型（System‑2），要配套协同设计一个轻量预判模块System‑1；用「预测‑过滤‑执行‑更新」闭环，只把昂贵算力花在真正有价值的交互上 。 名词通俗释义：

现在做大模型就是拼命把“干活大模型System‑2”越做越大。但很多任务、样本、推理步骤是没用的，白白烧显卡。 不如配一个便宜小System‑1当过滤器：先快速看一遍，判断这件事值不值得大模型下场干；只有值得的，才交给昂贵大模型执行；干完的结果反过来教System‑1预判得更准。 如果100件事里面只有10件有用（$\rho_u=0.1$），理想状态算力可以省到原来1/10。但小筛子也会看错，会打折扣。衡量模型进步不要光看总算力，要看真正产生价值的那部分算力。

我们现在遇到收益递减：显卡堆得再多，大量推理、样本、机器人动作都是无效劳动。 比如训练数学大模型，有些题目模型已经全会，反复训练不会学到东西；机器人乱试动作会耗费真实时间。 未来AI会自己给自己造训练数据，这时候更不能不加分辨什么都跑。 但是，让大模型自己判断“这件事值不值得做”代价太高，所以需要一个便宜帮手System‑1。

类比：学生刷题（System‑2）。不要不加分辨刷全部习题；配一个小助手System‑1快速扫题，只挑你薄弱、能提分的题目做；刷完题的结果，让小助手更懂你哪些题该做。

很多现有方案只是“小模型简单分发请求给大模型”，小模型学完就不动了。 本文要求闭环： 大模型干活的结果反过来训练小筛子System‑1，让筛子越变越聪明 。 同时要算账：筛子本身也要花一点点成本，如果筛子开销太贵，整体反而亏。 筛子不能完全一刀切全部过滤，万一筛子看走眼，把真正关键任务直接扔掉就完蛋。所以要随机保留一小部分被筛掉的任务去执行，用来纠错System‑1。

类比刷题：小助手不能永远只挑它认为的难题；偶尔也要做几道它觉得简单的题，验证自己判断是否出错。

System‑2越来越大越来越烧钱的时候，System‑1不能越做越小。 大模型很贵，这时候多花一点点算力把小筛子做得更准，减少大量无效昂贵执行，整体收益很高。 架构流程：把任务转成向量，小模型打分，阈值控制放多少任务给大模型；执行完反馈训练小模型。 同时要分层：可以多层筛子，先筛大任务，再筛子任务。

类比：当补课（System‑2）非常贵的时候，你值得多花一点时间（System‑1）好好筛选哪些补课内容真正对你提分，不要什么课都报。

老办法：全部任务跑一遍，跑完才知道哪些没用，钱已经烧完了。 新办法：先低成本打分，只跑高分任务。同时内存也省了，不用给海量任务预留大模型显存。 小System‑1* 不需要完整模拟整件事会发生什么，只需要输出一个“这件事值不值得做”的分数 *，所以可以很小。 这套思想也可以类比控制领域模型预测控制：先预判一批方案，只执行最好那批，拿到真实结果重新预判下一轮。

类比旅游：不用亲自全部景点玩一遍才知道好不好玩；看攻略快速打分，只去高分景点；玩完更新你对景点的认知。

数字例子：训练推理大模型，有些题目模型已经全会，跑再多也学不到东西。System‑1提前识别，直接跳过，不做生成。 机器人例子：仿真环境里，很多任务机器人已经很熟练，反复训练没用；小模型预判哪些任务机器人容易翻车，优先拿这些任务训练。 重点：随着模型变强，同样一个任务的价值会变化，筛子要跟着模型能力持续更新，不能一成不变。

不只是训练阶段！ 推理上线部署也能用这套System‑1+System‑2架构 。

上线推理也不要无脑给所有问题拉满最长思考、疯狂调用工具。 简单问题，不需要长思考；System‑1判断“再想也不会提升答案”，直接停止推理，省token和时间。 智能体不要动不动就调用工具；小筛子先判断调用工具能不能带来有效信息，成本值不值得。 坑：有时候单看这一步没收益，但多步之后收益巨大；简单的单步预判会提前终止，要考虑长期延续价值。

现在研究缩放，只看“总共烧了多少显卡算力”。论文说这不够，要看 真正花在有用任务上的算力 。 模型越来越强之后，值得学习的任务会越来越少，$\rho_u$下降，这就是收益递减的来源之一。 最大坑：筛子过滤掉的任务，你永远不知道它真实价值。筛子误以为没用，就永远不会执行，永远得不到反馈，错误一直保留。 解决办法：强制拿一小部分被筛掉的任务跑一遍，当作审计样本，用来纠正System‑1。 未来实验关键：实际测量 $\rho_u$ 如何随模型能力变化；找System‑1和System‑2的算力黄金配比。

通往AGI不只是拼命把大模型做更大。我们要做一套组合：便宜预判筛子System‑1 + 昂贵干活System‑2，形成闭环。 前提：任务交互成本高，并且可以低成本预判价值。 未来最关键的实验：去实际测“有用交互密度 $\rho_u$”，检验用有效算力能不能比总算力更好解释模型性能增长。

一堆定理严格证明：筛选效率、内存界、选择遗憾边界、测试时间界、协同缩放等数学推导。

现在做大模型就是使劲堆昂贵大模型System‑2，但很多任务/推理步骤是垃圾消耗算力；我们要搭配一个轻量System‑1当预判筛子，只让真正有价值的任务消耗昂贵算力；干完活结果反过来训练筛子，整套闭环可以同时用于训练和上线推理；未来衡量AI缩放，要看真正产生价值的算力，而不是总算力。