给 GPT-6-Astra 换套 Harness,RoboDojo 成功率直接从 15.83% 涨到 54.17%。
给 GPT-6-Astra 换套 Harness,RoboDojo 成功率直接从 15.83% 涨到 54.17%。
同样是 GPT-6-Astra,换套 Harness,机器人操作的成功率能差多少?
来自商汤科技、南洋理工大学等机构的联合研究团队,在 RoboDojo 的 42 项任务上进行了一组 Harness 消融实验。
基础 Agent 配置的成功率为 15.83%,平均得分 22.96;加入上下文学习知识包,再让 GPT-6-Astra 与视觉—语言—动作模型(VLA)闭环协作,成功率升至 54.17%,平均得分达到 60.08。
GPT-6-Astra 的参数没有改变,机器人任务成功率却达到原来的 3.4 倍。
在另一组 RoboDojo 挂杯测试中,GPT-6-Astra 根据头部摄像头画面,误以为杯把已经套上挂钩。腕部摄像头却显示杯子仍在桌上。模型继续调整,也没能及时确认真正的接触状态。
〓 任务完成状态误判及其他典型执行失误
SenseNova 研究团队推出的 SenseNova-RoboRSI,把模型、机器人动作接口、原生评测和反馈改进纳入统一 Harness,让执行记录能够用于后续系统调整。
这些经过验证的交互经验,还被进一步用于训练 27B 具身模型 SenseNova-RoboRSI-27B-Preview,推动模型能力与执行效率共同提升。
项目地址:
https://github.com/OpenSenseNova/SenseNova-RoboRSI
项目主页:
https://sensenova.ai/has-gpt-6-astra-achieved-embodied-intelligence
报告地址:
https://sensenova.ai/gpt-6/assets/docs/has_gpt-6_achieved_embodied_intelligence.pdf
12项基准测出具身能力上限
通用大模型已经能够直接观察机器人摄像头画面,根据机器人状态规划动作。但现有具身基准大多围绕专用机器人策略设计,标准测试成绩未必能完整体现 GPT-6-Astra 的能力。
SenseNova 研究团队在 12 项具身基准上进行统一评测,覆盖机械臂、灵巧手、人形机器人、移动操作平台和视觉语言导航,并调整了两项关键条件。
第一项是允许 GPT-6-Astra 利用训练集中的成功示范。专用 VLA 通常会用大量示范轨迹训练。如果要求通用模型完全零样本上场,双方能够使用的任务信息便不对等。
SenseNova 研究团队引入上下文学习(ICL),让 GPT-6-Astra 在测试前分析训练集中的图像、机器人状态和动作轨迹,整理任务步骤、运动参考、视觉样例、完成检查及失败恢复方法,必要时还可以编写辅助控制代码。
它们形成一份冻结的知识包,测试时按当前观察检索、调整和使用;模型参数及知识包都不在测试回合中更新。
〓 GPT-6-Astra 从训练示范中整理的知识包
第二项是放宽动作步数预算。专用策略可以高频生成动作,GPT-6-Astra 却要经历观察、推理、工具调用和结果检查。抓取失败后,模型可能已经找出问题,却没来得及完成下一次调整。
除长程家庭任务基准 BEHAVIOR 外,其余 11 项基准的动作步数上限均扩展至原来的最多 10 倍。延长执行仍属于同一个测试回合,保留之前的状态和交互历史,没有重新开始的机会。
LIBERO-Long++ 在扩展预算下达到 100%,LIBERO-Pro 达到 99.3%。
在 SIMPLE 人形机器人基准的 80 个完整可比测试回合上,ICL 先将标准预算下的成功率从 81.3% 提高到 96.3%。扩展预算后,零样本和 ICL 均达到 98.8%。
RoboDojo 则覆盖 42 项任务、每项 5 种布局,共 210 个回合,成功率从标准预算下的 27.6% 提高到 81.9%。
〓 12 项具身基准的能力评测结果
增加动作机会还能把成功率推高多少?
SenseNova 研究团队绘制了不同预算下的实测曲线,灰色曲线则给出了乐观上界,假设因步数耗尽而未完成的任务,在无限预算下最终都能成功。
RoboDojo 在 10 倍预算下达到 81.9%,理论上界约为 90%。Bench2Dex 则分别为 61.5% 和 69.2%。
长程导航基准 LHPR-VLN 扩展后仅达到 28.9%,显示长程任务中的进度追踪问题很难单靠追加步数解决。
〓 动作预算与成功率,含实测结果、拟合趋势及理论上界
ICL 同样有其作用条件。LIBERO 等任务与示范数据接近,模型可以直接借鉴动作经验。
RoboDojo 的 Open 任务缺少任务专属示范,知识包的帮助便相对有限。如何把经验迁移到陌生任务,是后续系统改进的重要方向。
高完成率也伴随着可观的时间成本。LIBERO-Long++ 即使在标准预算下已超过 97% 的成功率,平均每个测试回合仍消耗约 100 万 Token、53 分钟。RoboDojo 扩展预算下的平均耗时超过 3 小时。
〓 各基准的 Token 与耗时
这样的耗时让 SenseNova 研究团队把优化重点转向 Harness。模型该在什么时候观察、审核动作和读取反馈,直接影响任务的执行效率。
Harness到底改变了什么?
SenseNova-RoboRSI 将提示词、Skill、模型和工具/MCP 组织在同一运行环境中。
研究者可以按任务调整上下文与缓存,接入 VLA 策略、脚本动作或末端执行器控制工具,并在不同评测环境中保留原有的执行反馈与评分规则。
执行环境与评测模块通过统一接口连接,支持独立 Docker 容器和 HTTP API。
机器人每一步的观察、动作、反馈和得分都会被记录,方便批量评测、中断恢复,以及导出用于训练的完整轨迹。
〓 SenseNova-RoboRSI 的统一运行和改进框架
RSI 接收这些执行记录,分析规划、动作预测、反馈或记忆组织中的问题,提出候选修改,再在相同条件下复测。
通过验证的改动被保留到下一版本,基础模型参数可以保持冻结。经过验证的交互经验,也能进一步整理为 27B 模型的训练数据。
在 RoboDojo 的快慢模型闭环协作实验中,GPT-6-Astra 担任负责推理与检查的 System 2,经过任务微调的 π0.5 作为 System 1 提出动作候选。
单独使用 VLA 的成功率为 6.91%,GPT-6-Astra 只下达子目标、VLA 开环执行时,也只有 5.83%。
如果每个候选动作都由 GPT-6-Astra 审核,成功率升至 23.61%,却需约 766 万 Token。
将审核跨度调整为每次检查 4 个 VLA 候选动作,成功率进一步达到 25.83%,Token 降至约 280 万。
结合 ICL 知识包,成功率达到开篇的 54.17%,对应的 Token 用量则增至约 1933 万。
这组对照表明,大模型无需审核每一次细小动作。把检查安排在合适的节点上,反而能够兼顾任务成功率和 Token 开销。
让模型直接输出关节角度,往往难以将空间判断稳定地转化为精确控制。使用末端位姿或相对方向指令,任务效果更好。
在另一组测试中,让模型动态选择动作块长度,比每次固定生成四步动作更容易完成任务。这里的动作块生成,与前面一次审核四个 VLA 候选动作,是两个不同的实验设置。
反馈与记忆管理的消融同样说明了组件质量的重要性:增加反馈子 Agent 让成功率提高 8.89 个百分点;压缩较早的交互历史,则在改善成绩的同时减少约 66.6% 的 Token 开销。
相反,单独增加执行子 Agent 没有带来提升。
〓 Harness 组件、动作接口和快慢模型协作的消融结果
8种真机,GPT-6-Astra上手了
SenseNova 研究团队将 GPT-6-Astra 接入 8 种真实机器人配置,从单臂、双臂到灵巧手、轮式移动操作平台和宇树 G1 人形机器人,测试同一通用模型适应不同机器人本体的能力。
〓 GPT-6-Astra 在多种真实机器人平台上的操作演示
实验没有提供任务专属示范或示范知识包。
模型利用机器人接口、摄像头画面与实时状态反馈执行任务,部分平台还提供人工编写的控制提示。在刚性物体抓取与放置任务中,成功次数达到 17/18。
双臂插花展示了模型如何主动改变观察条件。单臂机器人握住花茎时,腕部摄像头看不到花瓶口;换成双臂配置,GPT-6-Astra 移动空闲机械臂,让另一只腕部摄像头看清插入位置,再完成操作。
主动视觉让观察角度本身也成为模型能够规划的动作。机器人可以根据任务需要改变传感器位置,主动获取此前被遮挡的信息。
在宇树 G1 上,GPT-6-Astra 作为高层 System 2,直接调用机器人现有的 System 0 底层运动控制器,无需额外接入针对任务训练的 System 1 VLA。
抓放任务成功 2/3,转向、行走和停止任务成功 3/3。在天机 M6S 灵巧手实验中,配合人工编写的抓取程序,三次玩具抓取也全部成功。
真机执行的时间成本同样值得关注。G1 的两次成功抓放均超过一小时,约九成时间花在模型请求与等待上。让通用模型更快地完成关键决策,成为具身系统部署中不可回避的效率问题。
SenseNova 研究团队还在 NVIDIA Isaac Sim 中搭建了交互式家庭环境,尝试让评测更贴近真实生活。任务直接来自人的需求,不提前提供对应场景的示范,环境也会在模型思考期间持续变化。
例如,准备早餐既要按时完成食物制作,也要处理炉灶、冰箱等设备的状态,以及执行中产生的其他影响。这些没有被逐项写进指令的责任,也被纳入完整执行过程的评测。
〓 面向日常需求的交互式家庭评测环境
这类任务将推理时间、动作结果和实际任务效用放到了一起,也让减少重复规划和无效输出变得更加重要。
27B把执行经验学进模型
在 RoboCasa365 上,商汤推出的 SenseNova-RoboRSI-27B-Preview 将任务成功率由 Qwen3.8-27B 基础模型的 26.0% 提高到 46.5%,平均输出 Token 从 59.5K 降至 15.9K,减少 73.3%。
这次训练将 Harness 中经过验证的交互经验转化为多模态监督数据,让模型学习如何理解操作目标、选择动作和根据反馈纠错。
更新后的模型重新进入同一套执行与评测环境,检验任务表现。
官方演示中,笔筒倾斜时,模型会主动放大局部画面 6 倍,确认关键接触位置后再调整抓取;笔筒入口有遮挡时,它分阶段移动和转腕;放置积木时,则结合上下积木的相对位置判断支撑关系,并在释放后检查稳定性。
〓 27B 模型的主动观察、动作调整与空间推理
这些细小的调整需要模型决定何时补充观察、怎样修正接触位置,以及释放物体后该检查什么。新观测会直接影响后续动作。
RoboDojo 上,27B-Preview 配合 VLA 执行,平均得分为 26.13、成功率为 20.83%,平均得分接近 RoboDojo 团队此前公布的 GPT-6-Astra 参考分数 28.97。
在 LIBERO-Pro 上,模型与 VLA 协作的成功率为 95.0%,直接控制时达到 96.1%,在对应对照中均仅次于 GPT-6-Astra。
相同的模型能力能够用于高层推理与底层策略协作,也能够通过直接控制接口参与执行。
〓 27B 模型在 RoboDojo、LIBERO-Pro 和 RoboCasa365 上的结果
SenseNova 研究团队给出的测算还显示,在相关具身任务中,27B 模型的完成成本约为 GPT-6-Astra 的 1/50。
〓 SenseNova-RoboRSI-27B-Preview 真机操作演示
结语
SenseNova-RoboRSI 已经将统一 Harness、执行反馈与模型训练连接到同一套研究和评测框架中。系统可以保存和验证有效的操作经验,27B 模型则进一步展示了经验训练带来的能力与输出效率改善。
项目目前已在 GitHub 开放首批 Agent 运行框架和 LIBERO 系列评测代码。
研究者和开发者可以使用现有接口复现任务、接入自己的模型或机器人工具,也可以提交新的评测任务、可复现的失败案例和 Harness 改进建议。
后续工作还将围绕经验检索、跨任务复用、更多机器人平台及模型与 Harness 的联合改进继续展开。