阅读,与值得关注的内容Readance

阶跃星辰发布Step 5 Preview旗舰模型,千问开源Qwen-Image-2.1图像生成与编辑模型,TypeSafe AI开放Jev决策模型

9 月 21 日,本期关注模型开放、图像创作与 Agent 开发,并补充近期值得上手的本地模型:Jev 取消候补名单,Step 5 Preview 开放产品与 API,Qwen-Image-2.1 发布权重,将透明图像生成与多图编辑整合到同一模型中。


⚡ 自动化决策


★ Jev

为软件返回分类、评分和判断概率,现已取消候补名单,开发者可直接开始接入。

TypeSafe AI 宣布,Jev 现已向所有人开放,无需候补名单。开发者可登录官方控制台,在 Playground 中测试输入与问题,再通过 API 将判断能力接入自己的应用。

Jev 面向软件中的高频决策环节。提交一段上下文并定义问题后,它可以从候选项中做选择、按给定标准评分,或返回某个判断为真的概率。同一份上下文可以同时回答多个问题,适合工单分流、内容筛选、任务路由和检索结果评估。

应用可以根据概率设置自动处理与人工复核的分界。当前 Jev 通过云端服务提供,尚未公开模型权重;需要生成文章、代码或解释时,仍需搭配生成式模型。

上手门槛

在线使用:🟢 低|登录官方 Playground 可用

开发接入:🟢 较低|提供 HTTP API 与官方 SDK|依赖云端服务

在线体验:
https://console.typesafe.ai/playground

快速入门:
https://docs.typesafe.ai/introduction/quickstart


★ jev-reranker

对检索结果重新排序,并在送入大模型前筛掉无法为回答提供证据的文档。

jev-reranker 是开发者 Yuichi Tateno 发布的 Python 工具,将 Jev 的判断能力用于 RAG 检索流程。它提供普通重排序和相关性过滤两种方式:前者组织候选文档的顺序,后者进一步判断哪些材料值得进入回答上下文。

在作者公布的 NanoHotpotQA 实验中,工具对 50 条查询、每条 100 份候选文档进行处理,过滤约 92% 的候选文档,nDCG@10 达到 0.975。这是特定数据集上的检索结果,实际知识库仍需自行调整过滤阈值,避免丢掉必要证据。

项目采用 MIT 许可证,封装了请求拆分、并发控制与重试。代码可以放在本地应用中运行,但评分依赖 Jev 云端 API,不属于可离线部署的重排序模型。

上手门槛

开发接入:🟢 较低|Python 库接入|调用 Jev 云端 API

安装入口:
https://pypi.org/project/jev-reranker/

项目地址:
https://github.com/hotchpotch/jev-reranker


💻 编程与复杂任务


★ 阶跃星辰 Step 5 Preview

处理长上下文、多轮工具调用与专业工作任务,支持百万 Token 上下文及视觉输入。

阶跃星辰于 9 月 20 日发布 Step 5 Preview,面向软件工程、专业知识工作与金融分析等场景。模型采用稀疏 MoE 架构,总参数量 600B,每 Token 激活 27B,支持 100 万 Token 上下文与文本、视觉输入。

此次发布强调持续执行真实任务:在编程中完成修改、调试与工具调用,在知识工作中收集材料、分析数据并整理交付物。官方展示包括交互式研究报告、多工作表分析文件,以及结合开发文档与摄像头反馈的硬件开发任务。

Step 5 Preview 已通过阶跃产品与 API 提供。完整权重计划于 10 月 15 日发布,当前适合先通过托管服务评估效果;需要私有部署的团队仍需等待权重及相应部署资料。

上手门槛

开发接入:🟢 低|通过阶跃开放平台 API 调用

自行部署:预计 10 月 15 日开放权重

接入平台:
https://platform.stepfun.com/

模型介绍:
https://www.stepfun.com/step-5-preview


★ Xing4.0-29B-A4B

面向编程与多步 Agent 任务,提供长上下文能力及可在单张消费级显卡运行的量化权重。

中国电信人工智能科技有限公司于 9 月 17 日开放 Xing4.0-29B-A4B,本期补充收录。模型延续星辰 TeleChat 系列,使用昇腾 NPU 与 MindSpore 训练,重点优化复杂工程任务中的规划、工具调用与长链路执行。

官方标称模型为 29B 总参数、4B 激活参数,原生支持 256K 上下文,可扩展至 512K。权重以 Apache 2.0 许可证发布,同时提供 FP8 与 GGUF 版本,便于根据设备资源选择部署路径。

官方 GGUF 教程已验证 RTX 3090 24GB 的单卡运行方案。当前部署应使用教程指定的适配版本;长上下文还会增加缓存占用,不能把完整上下文上限直接视为单卡方案的默认运行长度。

上手门槛

自行部署:🟢 较低|官方 GGUF 方案已验证 RTX 3090 24GB|使用指定适配版本

模型权重:
https://huggingface.co/XingChen-AGI/Xing4.0-29B-A4B

量化权重:
https://huggingface.co/XingChen-AGI/Xing4.0-29B-A4B-GGUF

部署教程:
https://github.com/XingChen-AGI/Xing4.0-29B-A4B/blob/main/tutorial/llama.cpp/README_EN.md


🎨 图像生成与编辑


★ Qwen-Image-2.1

统一图像生成与编辑,原生生成透明背景素材,并支持最多 10 张参考图参与创作。

千问于 9 月 20 日发布 Qwen-Image-2.1 并开放模型权重。其视觉生成组件为 7B 参数,将文生图、图像编辑与透明图像处理整合到同一套模型中,适合设计素材、人物合成与产品视觉内容制作。

模型可以直接生成带透明通道的 RGBA 图像,也能编辑透明图层、从照片中提取主体。编辑时最多接收 10 张参考图,支持通过圈选、涂抹标记或独立蒙版指定修改区域,并强化人物与产品的一致性。

官方提供在线 Demo 与 Diffusers 推理示例,支持通过 CPU 卸载降低显存压力。需要注意,7B 仅指视觉生成组件,实际运行还涉及文本编码器和 VAE;权重采用 Qwen Research License,仅限非商业研究与评估用途,商用须另行获得授权

上手门槛

在线使用:🟢 低|提供官方 Demo

自行部署:🟡 中|需加载图像生成、文本编码与 VAE 组件|支持 CPU 卸载

在线体验:
https://huggingface.co/spaces/Qwen/Qwen-Image-2.1

模型权重:
https://huggingface.co/Qwen/Qwen-Image-2.1

使用许可:
https://huggingface.co/Qwen/Qwen-Image-2.1/blob/main/LICENSE


🌐 浏览器自动化


★ APUS Fast Browser Use

利用本地模型选择网页操作,可作为 Skill 接入编程 Agent,减少浏览器任务对云端推理的依赖。

APUS AI Lab 发布 Fast Browser Use,将快速决策思路用于本地浏览器自动化。项目基于 Qwen3.5-9B 或 Qwen3.5-35B-A3B,可通过 Skill 接入 Claude Code、Codex 等工具,也提供独立运行方式。

执行时,工具先从页面中整理真实可交互元素,再让模型从受约束的候选操作中选择下一步,随后检查操作对象并记录结果。这种方式减少了自由生成选择器和操作代码的环节,适合点击、导航与表单等网页操作。

项目采用 MIT 许可证,是受 Jev 思路启发的独立实现,未使用 Jev 的私有权重。浏览器决策可在本地完成;如果外层编程 Agent 使用云端模型,其规划环节仍可能调用云服务。

上手门槛

自行部署:🟢 较低|9B 量化版支持 16GB 统一内存 Mac|NVIDIA BF16 路径建议 24GB 显存

安装说明:
https://github.com/APUS-AI-Lab/fast-browser-use/blob/main/README.md

项目地址:
https://github.com/APUS-AI-Lab/fast-browser-use


🖥️ 本地模型部署


★ Ternary Bonsai 2 27B

以三值权重压缩 27B 模型,将语言模型文件缩至约 5.95GB,支持本地推理与视觉任务。

PrismML 于 9 月 17 日发布 Ternary Bonsai 2 27B,本期作为近期本地模型回顾。它基于 Qwen3.8 27B,采用三值权重表示,面向本地编程助手、文档分析与多模态工具调用。

官方提供两种 GGUF 打包格式:PTQ1_0 约 5.95GB,更节省存储;PQ2_0 约 7.21GB,在部分硬件上具有更好的运行效率。图像输入还需加载视觉组件,运行时也要预留上下文缓存,因此模型文件大小不等于整机内存需求。

权重采用 Apache 2.0 许可证,并提供 GGUF 与 Apple Silicon 的 MLX 路径。部署时需使用 PrismML 提供的适配运行时,不能直接套用普通 llama.cpp 的通用启动示例。

上手门槛

自行部署:🟢 较低|提供 GGUF 与 MLX 权重|使用官方适配运行时

模型权重:
https://huggingface.co/collections/prism-ml/bonsai-2

运行指南:
https://github.com/PrismML-Eng/Bonsai-demo


前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →