PaperWeekly公众号文章

机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍

12项基准,8种真机

PaperWeekly

公众号 · 37 篇文章

图片

给 GPT-6-Astra 换套 Harness,RoboDojo 成功率直接从 15.83% 涨到 54.17%。


同样是 GPT-6-Astra,换套 Harness,机器人操作的成功率能差多少?


来自商汤科技、南洋理工大学等机构的联合研究团队,在 RoboDojo 的 42 项任务上进行了一组 Harness 消融实验。


基础 Agent 配置的成功率为 15.83%,平均得分 22.96;加入上下文学习知识包,再让 GPT-6-Astra 与视觉—语言—动作模型(VLA)闭环协作,成功率升至 54.17%,平均得分达到 60.08。


GPT-6-Astra 的参数没有改变,机器人任务成功率却达到原来的 3.4 倍。


在另一组 RoboDojo 挂杯测试中,GPT-6-Astra 根据头部摄像头画面,误以为杯把已经套上挂钩。腕部摄像头却显示杯子仍在桌上。模型继续调整,也没能及时确认真正的接触状态。



图片

〓 任务完成状态误判及其他典型执行失误



SenseNova 研究团队推出的 SenseNova-RoboRSI,把模型、机器人动作接口、原生评测和反馈改进纳入统一 Harness,让执行记录能够用于后续系统调整。


这些经过验证的交互经验,还被进一步用于训练 27B 具身模型 SenseNova-RoboRSI-27B-Preview,推动模型能力与执行效率共同提升。



图片



项目地址:

https://github.com/OpenSenseNova/SenseNova-RoboRSI

项目主页:

https://sensenova.ai/has-gpt-6-astra-achieved-embodied-intelligence

报告地址:

https://sensenova.ai/gpt-6/assets/docs/has_gpt-6_achieved_embodied_intelligence.pdf


图片

12项基准测出具身能力上限

通用大模型已经能够直接观察机器人摄像头画面,根据机器人状态规划动作。但现有具身基准大多围绕专用机器人策略设计,标准测试成绩未必能完整体现 GPT-6-Astra 的能力。


SenseNova 研究团队在 12 项具身基准上进行统一评测,覆盖机械臂、灵巧手、人形机器人、移动操作平台和视觉语言导航,并调整了两项关键条件。


第一项是允许 GPT-6-Astra 利用训练集中的成功示范。专用 VLA 通常会用大量示范轨迹训练。如果要求通用模型完全零样本上场,双方能够使用的任务信息便不对等。


SenseNova 研究团队引入上下文学习(ICL),让 GPT-6-Astra 在测试前分析训练集中的图像、机器人状态和动作轨迹,整理任务步骤、运动参考、视觉样例、完成检查及失败恢复方法,必要时还可以编写辅助控制代码。


它们形成一份冻结的知识包,测试时按当前观察检索、调整和使用;模型参数及知识包都不在测试回合中更新。



图片

〓 GPT-6-Astra 从训练示范中整理的知识包


第二项是放宽动作步数预算。专用策略可以高频生成动作,GPT-6-Astra 却要经历观察、推理、工具调用和结果检查。抓取失败后,模型可能已经找出问题,却没来得及完成下一次调整。


除长程家庭任务基准 BEHAVIOR 外,其余 11 项基准的动作步数上限均扩展至原来的最多 10 倍。延长执行仍属于同一个测试回合,保留之前的状态和交互历史,没有重新开始的机会。


LIBERO-Long++ 在扩展预算下达到 100%,LIBERO-Pro 达到 99.3%。


在 SIMPLE 人形机器人基准的 80 个完整可比测试回合上,ICL 先将标准预算下的成功率从 81.3% 提高到 96.3%。扩展预算后,零样本和 ICL 均达到 98.8%。


RoboDojo 则覆盖 42 项任务、每项 5 种布局,共 210 个回合,成功率从标准预算下的 27.6% 提高到 81.9%。



图片

〓 12 项具身基准的能力评测结果



增加动作机会还能把成功率推高多少?


SenseNova 研究团队绘制了不同预算下的实测曲线,灰色曲线则给出了乐观上界,假设因步数耗尽而未完成的任务,在无限预算下最终都能成功。


RoboDojo 在 10 倍预算下达到 81.9%,理论上界约为 90%。Bench2Dex 则分别为 61.5% 和 69.2%。


长程导航基准 LHPR-VLN 扩展后仅达到 28.9%,显示长程任务中的进度追踪问题很难单靠追加步数解决。


图片

〓 动作预算与成功率,含实测结果、拟合趋势及理论上界



ICL 同样有其作用条件。LIBERO 等任务与示范数据接近,模型可以直接借鉴动作经验。


RoboDojo 的 Open 任务缺少任务专属示范,知识包的帮助便相对有限。如何把经验迁移到陌生任务,是后续系统改进的重要方向。


高完成率也伴随着可观的时间成本。LIBERO-Long++ 即使在标准预算下已超过 97% 的成功率,平均每个测试回合仍消耗约 100 万 Token、53 分钟。RoboDojo 扩展预算下的平均耗时超过 3 小时。



图片

〓 各基准的 Token 与耗时



这样的耗时让 SenseNova 研究团队把优化重点转向 Harness。模型该在什么时候观察、审核动作和读取反馈,直接影响任务的执行效率。



图片

Harness到底改变了什么?

SenseNova-RoboRSI 将提示词、Skill、模型和工具/MCP 组织在同一运行环境中。


研究者可以按任务调整上下文与缓存,接入 VLA 策略、脚本动作或末端执行器控制工具,并在不同评测环境中保留原有的执行反馈与评分规则。


执行环境与评测模块通过统一接口连接,支持独立 Docker 容器和 HTTP API。


机器人每一步的观察、动作、反馈和得分都会被记录,方便批量评测、中断恢复,以及导出用于训练的完整轨迹。



图片

〓 SenseNova-RoboRSI 的统一运行和改进框架



RSI 接收这些执行记录,分析规划、动作预测、反馈或记忆组织中的问题,提出候选修改,再在相同条件下复测。


通过验证的改动被保留到下一版本,基础模型参数可以保持冻结。经过验证的交互经验,也能进一步整理为 27B 模型的训练数据。


在 RoboDojo 的快慢模型闭环协作实验中,GPT-6-Astra 担任负责推理与检查的 System 2,经过任务微调的 π0.5 作为 System 1 提出动作候选。


单独使用 VLA 的成功率为 6.91%,GPT-6-Astra 只下达子目标、VLA 开环执行时,也只有 5.83%。


如果每个候选动作都由 GPT-6-Astra 审核,成功率升至 23.61%,却需约 766 万 Token。


将审核跨度调整为每次检查 4 个 VLA 候选动作,成功率进一步达到 25.83%,Token 降至约 280 万。


结合 ICL 知识包,成功率达到开篇的 54.17%,对应的 Token 用量则增至约 1933 万。


这组对照表明,大模型无需审核每一次细小动作。把检查安排在合适的节点上,反而能够兼顾任务成功率和 Token 开销。


让模型直接输出关节角度,往往难以将空间判断稳定地转化为精确控制。使用末端位姿或相对方向指令,任务效果更好。


在另一组测试中,让模型动态选择动作块长度,比每次固定生成四步动作更容易完成任务。这里的动作块生成,与前面一次审核四个 VLA 候选动作,是两个不同的实验设置。


反馈与记忆管理的消融同样说明了组件质量的重要性:增加反馈子 Agent 让成功率提高 8.89 个百分点;压缩较早的交互历史,则在改善成绩的同时减少约 66.6% 的 Token 开销。


相反,单独增加执行子 Agent 没有带来提升。



图片

〓 Harness 组件、动作接口和快慢模型协作的消融结果


RoboDojo 公开榜单此前收录的 GPT-6-Astra 参考成绩为 28.97 分、成功率 22.48%。商汤此次公布的系统成绩达到 60.08 分、54.17%,两项指标都有明显提升。


图片

8种真机,GPT-6-Astra上手了

SenseNova 研究团队将 GPT-6-Astra 接入 8 种真实机器人配置,从单臂、双臂到灵巧手、轮式移动操作平台和宇树 G1 人形机器人,测试同一通用模型适应不同机器人本体的能力。



已关注
关注
重播 分享 赞
观看更多
    PaperWeekly

    0/0

    00:00/00:30
    进度条,百分之0
    00:00
    /
    00:30
    00:30
    全屏

    倍速播放中
    您的浏览器不支持 video 标签

    继续观看

    机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍

    转载
    ,
    机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍
    PaperWeekly
    已同步到看一看写下你的评论

    〓 GPT-6-Astra 在多种真实机器人平台上的操作演示



    实验没有提供任务专属示范或示范知识包。


    模型利用机器人接口、摄像头画面与实时状态反馈执行任务,部分平台还提供人工编写的控制提示。在刚性物体抓取与放置任务中,成功次数达到 17/18。


    双臂插花展示了模型如何主动改变观察条件。单臂机器人握住花茎时,腕部摄像头看不到花瓶口;换成双臂配置,GPT-6-Astra 移动空闲机械臂,让另一只腕部摄像头看清插入位置,再完成操作。



    已关注
    关注
    重播 分享 赞
    观看更多
      PaperWeekly

      0/0

      00:00/00:18
      进度条,百分之0
      00:00
      /
      00:18
      00:18
      全屏

      倍速播放中
      您的浏览器不支持 video 标签

      继续观看

      机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍

      转载
      ,
      机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍
      PaperWeekly
      已同步到看一看写下你的评论


      主动视觉让观察角度本身也成为模型能够规划的动作。机器人可以根据任务需要改变传感器位置,主动获取此前被遮挡的信息。


      在宇树 G1 上,GPT-6-Astra 作为高层 System 2,直接调用机器人现有的 System 0 底层运动控制器,无需额外接入针对任务训练的 System 1 VLA。


      抓放任务成功 2/3,转向、行走和停止任务成功 3/3。在天机 M6S 灵巧手实验中,配合人工编写的抓取程序,三次玩具抓取也全部成功。


      真机执行的时间成本同样值得关注。G1 的两次成功抓放均超过一小时,约九成时间花在模型请求与等待上。让通用模型更快地完成关键决策,成为具身系统部署中不可回避的效率问题。


      SenseNova 研究团队还在 NVIDIA Isaac Sim 中搭建了交互式家庭环境,尝试让评测更贴近真实生活。任务直接来自人的需求,不提前提供对应场景的示范,环境也会在模型思考期间持续变化。


      例如,准备早餐既要按时完成食物制作,也要处理炉灶、冰箱等设备的状态,以及执行中产生的其他影响。这些没有被逐项写进指令的责任,也被纳入完整执行过程的评测。



      已关注
      关注
      重播 分享 赞
      观看更多
        PaperWeekly

        0/0

        00:00/01:00
        进度条,百分之0
        00:00
        /
        01:00
        01:00
        全屏

        倍速播放中
        您的浏览器不支持 video 标签

        继续观看

        机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍

        转载
        ,
        机器人也开始RSI了!商汤给GPT-6-Astra加「外挂」,成功率翻倍
        PaperWeekly
        已同步到看一看写下你的评论

        〓 面向日常需求的交互式家庭评测环境



        这类任务将推理时间、动作结果和实际任务效用放到了一起,也让减少重复规划和无效输出变得更加重要。



        图片

        27B把执行经验学进模型

        在 RoboCasa365 上,商汤推出的 SenseNova-RoboRSI-27B-Preview 将任务成功率由 Qwen3.8-27B 基础模型的 26.0% 提高到 46.5%,平均输出 Token 从 59.5K 降至 15.9K,减少 73.3%。


        这次训练将 Harness 中经过验证的交互经验转化为多模态监督数据,让模型学习如何理解操作目标、选择动作和根据反馈纠错。


        更新后的模型重新进入同一套执行与评测环境,检验任务表现。


        官方演示中,笔筒倾斜时,模型会主动放大局部画面 6 倍,确认关键接触位置后再调整抓取;笔筒入口有遮挡时,它分阶段移动和转腕;放置积木时,则结合上下积木的相对位置判断支撑关系,并在释放后检查稳定性。



        图片

        〓 27B 模型的主动观察、动作调整与空间推理



        这些细小的调整需要模型决定何时补充观察、怎样修正接触位置,以及释放物体后该检查什么。新观测会直接影响后续动作。


        RoboDojo 上,27B-Preview 配合 VLA 执行,平均得分为 26.13、成功率为 20.83%,平均得分接近 RoboDojo 团队此前公布的 GPT-6-Astra 参考分数 28.97。


        在 LIBERO-Pro 上,模型与 VLA 协作的成功率为 95.0%,直接控制时达到 96.1%,在对应对照中均仅次于 GPT-6-Astra。


        相同的模型能力能够用于高层推理与底层策略协作,也能够通过直接控制接口参与执行。



        图片

        〓 27B 模型在 RoboDojo、LIBERO-Pro 和 RoboCasa365 上的结果


        SenseNova 研究团队给出的测算还显示,在相关具身任务中,27B 模型的完成成本约为 GPT-6-Astra 的 1/50。



        图片

        〓 SenseNova-RoboRSI-27B-Preview 真机操作演示




        图片

        结语

        SenseNova-RoboRSI 已经将统一 Harness、执行反馈与模型训练连接到同一套研究和评测框架中。系统可以保存和验证有效的操作经验,27B 模型则进一步展示了经验训练带来的能力与输出效率改善。


        项目目前已在 GitHub 开放首批 Agent 运行框架和 LIBERO 系列评测代码。


        研究者和开发者可以使用现有接口复现任务、接入自己的模型或机器人工具,也可以提交新的评测任务、可复现的失败案例和 Harness 改进建议。


        后续工作还将围绕经验检索、跨任务复用、更多机器人平台及模型与 Harness 的联合改进继续展开。



        ·


        图片

        前往微信阅读全文

        内容来自公众号,可前往微信查看原文。

        查看作者的更多文章 →订阅更新、RSS 与阅读指南 →