科研难在把想法磨成能检验的研究,再根据结果修正判断。智能体做研究时留下大量记录,却很少用来训练自己。
DiscoveryRSI 【文献1】做的,是把这些记录用起来,效果很不错。
好假设
论文把假设拆成四部分:
是有证据的论断, 是调查方案, 是判定标准, 是替代解释。
好假设有两条要求。回答它,能改变认识或决策;方案在现有数据下做得出来,结果能支持、削弱或限定论断。
比如 ICU 病人肌酐下降而尿量仍低,这种错位能否预测出院后短期内的再入院或死亡?
方案事先写明什么结果算支持,并列出"病重的人本来就两者兼有"这类替代解释。写到这一步,假设才能被检验。
记录过程
多个智能体分工,提假设、批评、修改,每次修改产生新版本,连着前一版,串成一棵研究树。
每个版本带着证据、评审和各方贡献,好结果出自哪一步,顺着记录能查回去。这份记录是后面学习的原料。
DiscoveryRSI将多智能体假设开发与递归自我改进相结合:(a)在一个情节内,由Lead协调生成与演化过程;候选假设版本会接受评审,并记录进展。入选的假设会被编译为Harbor任务,附带关联证据、数据、草稿、工件、评估、贡献及执行记录。(b)研究树将假设贯穿各轮RSI传递:记录的状态𝐻𝑘进入RSI,产生更新后的参数(𝜃𝑘+1,𝜓𝑘+1)以及用于再发现的新问题。(c)两个更新分支从同一经验中学习:假设信用优化将评估结果和有记录的贡献转化为有界加权训练,而harness回放保持模型不变,诊断反复出现的失败,并测试有针对性的工作流修改。被接受的更新会在第𝑘+1轮之前于开发集上进行检查。
功劳给谁
假设得高分,功劳可能来自不同的调用,有人提解释,有人加对照,有人改计划。只看最终结果,不知该强化谁;整段历史都拿去训练,又会学进无用的步骤。
论文分了三步。
先由盲评的两两比较,算出每个假设的相对优劣。这个分数反映评审偏好,与假设为真的概率无关。
再按记录分功劳,协调拿一小份,直接产出和有据可查的支持工作拿大头。查不出归属的份额宁可空着,同一问题的多个版本共用预算,单条轨迹的权重有上限
最后只对有依据的回答和工具调用计算训练损失,其余内容只当背景。一万五千多条轨迹,最终只留两千多条,受直接监督的 token 约占 2%。
模型学到的是有证据支持的具体决策,不是整段历史。
流程得改
智能体常见的毛病,是反复探索同一方向、工具调用失败、产物丢失、过早收工,多半出在流程上。
Harness replay 保持模型不动,回看记录,找出反复出现的故障,再改流程,改动须在开发集上胜过原方案。新模型和新流程拿去做全新的问题,产生新记录,进入下一轮。
研究留下记录,记录支撑归因,归因驱动改进,改进后的系统继续研究。
效果不错
两轮改进后,假设质量的自动评分从 4.86 升到 5.39。提升集中在可证伪性、对替代解释的考虑和数据可解析性。系统更愿意在已有假设上反复修订,少换新问题。
人类评审中,每次修改的平均得分变化是 +0.07,对比模型为 +0.03 和 −0.01。与模型截止日期之后发表的研究能对应上具体设计的比例,该系统为 6.3%,GPT 为 2.5%,Claude 为 2.3%。
已知局限
提升集中在方案设计,问题的重要性和新颖性略降,数据贴合、替代解释和信息量三项,人类评分低于 GPT-6 Luna。系统学会了把方案写扎实,还没学会提更大的问题。
评价不够独立,三位自动评审出自同一模型家族,文献对应由模型自动判断,各组样本量悬殊,评价器也还没有跟专家校准。
工作止于假设和调查方案,没有做实验,没有实验室验证。
个人看法
上个月笔者有幸受邀作为世界人工智能开源大赛(GOAI)的 AI for Research 评委,全天20个项目路演评审,深有感触。
参赛项目 AI for Research 的途径,多是人类学者提出创意或假设,AI负责探索或优化。
AI 能否自己提出冠军的镜像多肽,或是季军的时空信息编码?
DiscoveryRSI 是AI自主发现科研假设的一小步,未来人们能化腐朽的“AI幻觉”为神奇的科学发现吗?
文献1,DiscoveryRSI: Recursively Learning to
Discover Valuable Hypotheses,https://arxiv.org/pdf/2610.23839