10 月 15 日,今天值得关注的项目覆盖长程任务、交互世界、实时语音与机器人控制:Step 5 Preview 和 Ling-3.1-flash 开放权重,Matrix-Game 4.0 公开游戏源码与推理模型;同时关注近期发布的语音 Agent,以及视频生成和机器人经验复用的新进展。
★ Step 5 Preview
理解文字与图像,在百万级上下文中完成编程和长程工具调用,本次开放模型权重。
阶跃星辰今天开放 Step 5 Preview 官方权重,接续此前的 API 发布。模型总参数 600B、激活参数 27B,支持 1M 上下文,可处理文字与图像理解、编程及长程工具调用,让开发者自行部署并接入任务流程。
此次提供 BF16、FP8 权重及 vLLM、SGLang 等部署路径。权重采用 StepFun Model License 1.0:硬件产品商业搭载,以及满足特定条件的 MaaS 服务,需要另行取得许可,使用前应核对对应条款。
上手门槛
自行部署:🔴 极高|官方 FP8 示例使用 4 张 B300 或 8 张 H200|长上下文另需缓存空间
模型权重:https://huggingface.co/stepfun-ai/Step-5-Preview-BF16
部署代码:https://github.com/stepfun-ai/Step-5-Preview
技术介绍:https://platform.stepfun.ai/blog/inside-step-5-preview
★ Ling-3.1-flash
通过可切换的推理模式,在百万级上下文中处理办公、搜索与编程 Agent 任务。
蚂蚁百灵新开放 Ling-3.1-flash 权重,采用 MIT 许可证。官方公布模型总参数 560B、激活参数 25B,支持 1M 上下文,面向办公、搜索和编程等 Agent 场景,可容纳长文档与多轮任务记录。
模型提供混合推理开关,开发者可按任务选择是否启用推理,并通过 SGLang 或 vLLM 部署。较少的激活参数并不意味着能够在小显存设备上运行:完整权重仍需大型多卡配置,官方给出了 8 张 H200 或 4 张 GB300 的方案。
上手门槛
自行部署:🔴 极高|官方提供 8 张 H200 或 4 张 GB300 部署方案
模型权重:https://huggingface.co/inclusionAI/Ling-3.1-flash
★ Matrix-Game 4.0
用游戏引擎维护规则与物理状态,再将低模画面转换为可交互的细节视频。
昆仑万维于 10 月 15 日公开 Matrix-Game 4.0 的推理代码、游戏源码与权重,提供城堡、古埃及和赛车三种场景。游戏引擎负责物理状态与规则,因果视频模型把低模画面渲染出细节;HUD 与音效由独立环节处理。
当前开源版本仅验证了 A100 80GB,RTX 50 系列优化代码仍计划于本周发布,尚不能按消费级显卡优化版使用。4.0 采用 Apache 2.0 许可证,第三方资产遵循各自许可;运行时需要组合游戏引擎与模型推理服务。
上手门槛
自行部署:🔴 高|官方已验证 A100 80GB|需组合游戏引擎与推理服务
项目源码:https://github.com/SkyworkAI/Matrix-Game/tree/main/Matrix-Game-4
模型权重:https://huggingface.co/Skywork/Matrix-Game-4.0
★ Grok Voice 3.0
以端到端实时语音处理对话轮转、停顿与打断,为语音 Agent 提供 API。
xAI 于 10 月 14 日发布 Grok Voice 3.0,面向需要连续交谈的实时语音 Agent。模型采用端到端语音对话方式,处理对话轮转、停顿与用户打断;官方报告响应延迟低于 1 秒,可用于需要及时接话的语音交互流程。
开发者通过实时语音 API 接入,费用为每分钟 0.08 美元,按通话时长计费。使用 grok-voice-latest 别名的应用已自动切换至新版本。目前模型未开放权重,使用路径为托管 API。
上手门槛
开发接入:🟢 较低|通过实时语音 API 接入|按通话时长付费,每分钟 0.08 美元
API 文档:https://docs.x.ai/developers/models/grok-voice-3.0
发布说明:https://x.ai/news/grok-voice-3
★ DMAD
将 MiniMax-H3 的采样从 50 步压缩至 4 步,生成带原生立体声的视频。
DMAD 项目于 10 月 2 日开放推理 LoRA,10 月 10 日补充 8GB 显存路径。它基于 33B MiniMax-H3,使用 rank 128 LoRA 将采样从 50 步减至 4 步,生成 1344×768 原生立体声音视频;4 步并不等于实时生成。
低显存方案通过分层流式读取和卸载运行:8GB 可生成 5 秒,12GB 可生成 15 秒,仍需下载约 170GB 基础组件及 LoRA。仓库根目录及 H3 训练代码采用 Apache 2.0,H3 衍生权重则遵循 MiniMax H3 Community License。
上手门槛
自行部署:🟡 中|8GB 显存方案可生成 5 秒视频|基础组件约 170GB,另需 LoRA|需低显存卸载或 ComfyUI 工作流
模型权重:https://huggingface.co/ZhengmingYu/DMAD
项目代码:https://github.com/Yzmblog/DMAD
★ EmbodiedEvo
让编程 Agent 从机器人任务反馈中沉淀技能与经验,供新场景中的新 Agent 复用。
Einsia AI 的 EmbodiedEvo 让编程 Agent 观察机器人场景、执行并修改 Python 代码,再把反馈整理为 Skills 和 Lessons。它在单个 Playground 场景中探索,随后冻结经验,交给新场景中的新 Agent 使用,过程中不更新模型权重。
截至 10 月 15 日所查榜单,其在 RoboDojo-Sim 仿真榜单中按平均分排名第一,精细接触任务仍具挑战。源码可查看,但项目尚未确定整体许可证,不能视为已完成正式开源授权。运行需准备 RoboDojo/Isaac Sim 仿真环境、NVIDIA GPU 及外部模型 API。
项目代码:https://github.com/Einsia/EmbodiedEvo
论文地址:https://arxiv.org/abs/2610.18867
评测榜单:https://xpolicylab.github.io/