清熙公众号文章

众多名校联手DiscoveryRSI:递归学习发现有价值科研假设

科研难在把想法磨成能检验的研究,再根据结果修正判断。智能体做研究时留下大量记录,却很少用来训练自己。

清熙

公众号 · 21 篇文章

 

科研难在把想法磨成能检验的研究,再根据结果修正判断。智能体做研究时留下大量记录,却很少用来训练自己。


DiscoveryRSI 【文献1】做的,是把这些记录用起来,效果很不错。

好假设

论文把假设拆成四部分:

 是有证据的论断, 是调查方案, 是判定标准, 是替代解释。

好假设有两条要求。回答它,能改变认识或决策;方案在现有数据下做得出来,结果能支持、削弱或限定论断。

比如 ICU 病人肌酐下降而尿量仍低,这种错位能否预测出院后短期内的再入院或死亡? 

方案事先写明什么结果算支持,并列出"病重的人本来就两者兼有"这类替代解释。写到这一步,假设才能被检验。

记录过程

多个智能体分工,提假设、批评、修改,每次修改产生新版本,连着前一版,串成一棵研究树。

每个版本带着证据、评审和各方贡献,好结果出自哪一步,顺着记录能查回去。这份记录是后面学习的原料。

DiscoveryRSI将多智能体假设开发与递归自我改进相结合:(a)在一个情节内,由Lead协调生成与演化过程;候选假设版本会接受评审,并记录进展。入选的假设会被编译为Harbor任务,附带关联证据、数据、草稿、工件、评估、贡献及执行记录。(b)研究树将假设贯穿各轮RSI传递:记录的状态𝐻𝑘进入RSI,产生更新后的参数(𝜃𝑘+1,𝜓𝑘+1)以及用于再发现的新问题。(c)两个更新分支从同一经验中学习:假设信用优化将评估结果和有记录的贡献转化为有界加权训练,而harness回放保持模型不变,诊断反复出现的失败,并测试有针对性的工作流修改。被接受的更新会在第𝑘+1轮之前于开发集上进行检查。

功劳给谁

假设得高分,功劳可能来自不同的调用,有人提解释,有人加对照,有人改计划。只看最终结果,不知该强化谁;整段历史都拿去训练,又会学进无用的步骤。

论文分了三步。

先由盲评的两两比较,算出每个假设的相对优劣。这个分数反映评审偏好,与假设为真的概率无关。

再按记录分功劳,协调拿一小份,直接产出和有据可查的支持工作拿大头。查不出归属的份额宁可空着,同一问题的多个版本共用预算,单条轨迹的权重有上限

最后只对有依据的回答和工具调用计算训练损失,其余内容只当背景。一万五千多条轨迹,最终只留两千多条,受直接监督的 token 约占 2%。

模型学到的是有证据支持的具体决策,不是整段历史。

流程得改

智能体常见的毛病,是反复探索同一方向、工具调用失败、产物丢失、过早收工,多半出在流程上。

Harness replay 保持模型不动,回看记录,找出反复出现的故障,再改流程,改动须在开发集上胜过原方案。新模型和新流程拿去做全新的问题,产生新记录,进入下一轮。

研究留下记录,记录支撑归因,归因驱动改进,改进后的系统继续研究。

效果不错

两轮改进后,假设质量的自动评分从 4.86 升到 5.39。提升集中在可证伪性、对替代解释的考虑和数据可解析性。系统更愿意在已有假设上反复修订,少换新问题。

人类评审中,每次修改的平均得分变化是 +0.07,对比模型为 +0.03 和 −0.01。与模型截止日期之后发表的研究能对应上具体设计的比例,该系统为 6.3%,GPT 为 2.5%,Claude 为 2.3%。

已知局限

提升集中在方案设计,问题的重要性和新颖性略降,数据贴合、替代解释和信息量三项,人类评分低于 GPT-6 Luna。系统学会了把方案写扎实,还没学会提更大的问题。

评价不够独立,三位自动评审出自同一模型家族,文献对应由模型自动判断,各组样本量悬殊,评价器也还没有跟专家校准。

工作止于假设和调查方案,没有做实验,没有实验室验证。

个人看法

上个月笔者有幸受邀作为世界人工智能开源大赛(GOAI)的 AI for Research 评委,全天20个项目路演评审,深有感触。

参赛项目 AI for Research 的途径,多是人类学者提出创意或假设,AI负责探索或优化。

AI 能否自己提出冠军的镜像多肽,或是季军的时空信息编码?

DiscoveryRSI 是AI自主发现科研假设的一小步,未来人们能化腐朽的“AI幻觉”为神奇的科学发现吗?


文献1,DiscoveryRSI: Recursively Learning to
Discover Valuable Hypotheses,https://arxiv.org/pdf/2610.23839

 

前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →