老刘说NLP公众号文章

WMT26翻译大模型冠军方案解读:Lumen、Wayfinder实现思路

今天是2026年10月15日,星期四,北京,天气晴。

老刘说NLP

公众号 · 52 篇文章

今天是2026年10月15日,星期四,北京,天气晴。

来看一个领域大模型进展,关于WMT26翻译大模型冠军方案,其中有两个模型,Lumen(Qwen‑MT‑Lumen)、Wayfinder,看下思路。

值得注意的是,在评估侧:WMT26今年重大改动:彻底弃用BLEU/COMET等自动指标做官方排名,全部依靠全新cESA大规模对比式人工评测,动态评估机制,性能更好的模型获得更多人工标注样本,规避自动指标过拟合风险。

整体都在变化,大家可以多关注。

一、WMT26翻译大模型方案的实现思路

WMT26机器翻译大赛冠军模型,WMT官方报告:https://www2.statmt.org/wmt26/pdf/2026.wmt-1.48.pdf,Qwen-MT-Lumen论文:https://www2.statmt.org/wmt26/pdf/2026.wmt-1.81.pdf,Wayfinder论文:https://www2.statmt.org/wmt26/pdf/2026.wmt-1.78.pdf

其中,有2个模型,可以看下:

1、Lumen(Qwen‑MT‑Lumen)

Lumen证明:14B规模的开源模型,经过面向翻译任务的全套训练(持续预训练+SFT+在线偏好对齐+策略蒸馏),可以逼近闭源巨头翻译能力,兼顾复杂指令、JSON/HTML结构化翻译,适合私有化落地。

采用的是四阶段完整训练流水线:

图片

Stage1:CPT持续预训练+SFT监督微调。

CPT阶段使用贴合WMT26任务领域(新闻、社交、软件、口语、事实核查、教育)多语言语料做持续预训练,补强小语种、低资源语言能力;

SFT阶段混合双语平行翻译数据+翻译指令专用数据(风格正式/口语、术语表、JSON结构化输出),大部分样本是普通翻译,小部分加入翻译约束指令;指令数据大部分靠LLM合成。

Stage2:Online‑M²PO在线多视角多对偏好优化(RL偏好对齐),此阶段主要提升翻译质量,对指令跟随增益有限。

区别于离线固定偏好数据集,模型实时采样候选翻译,使用DeepSeek‑V4‑Pro作为LLM裁判打分,动态生成偏好样本做强化学习,重点提升翻译的忠实度、流畅度。

Stage3:OPD On‑Policy Distillation在线策略蒸馏。

这块使用教师模型:冻结的Qwen3‑32B‑Instruct;学生就是14B的Lumen。关键点:不是拿教师输出做静态数据集蒸馏。学生自己生成翻译轨迹,教师对学生生成的每一步token输出做监督,把大模型更强的指令遵循能力迁移过来**。解决RL阶段模型翻译很好,但遵守格式、风格指令偏弱的短板。

Stage4:结构感知推理+选择性修复。

这个阶段专门处理JSON、HTML结构化输入:只翻译文本内容,保留key、占位符、标签;

同时使用规则检查:长度异常、循环重复、脚本错误、源文本残留;轻微问题确定性修复,严重问题调用Qwen3.5‑4B重写;普通正确译文不会改动,避免引入新错误。

2、Wayfinder

Wayfinder证明Agent融合路线的上限:不需要训练新权重,通过多候选+匿名选择+严格的错误后校验,也可以拿到SOTA翻译效果,但代价是极高推理成本,适合离线任务,不适合线上高并发。

这个部分采用的策略是四阶段Agent流水线

图片

一阶段:证据聚合Evidence Aggregation。将源文档、翻译指令、元信息、4份候选翻译,加上DeepSeek‑V4‑Pro给出的统一打分排序结果,组装每个文档的完整证据记录。

二阶段:匿名选择/改写Agent Anonymized Pick‑or‑Rewrite Agent

具体的,将4个模型输出匿名标记为A/B/C/D,隐藏原始模型身份,防止Agent对某家模型有固有偏见。

Agent二选一:pick直接原样挑选最好一份候选;或者rewrite融合多个候选做改写修正。严格遵循一套优先级评估标准:指令遵守>结构完整>忠实度>术语实体>语法>语体流畅度。

三阶段:保守后检查Conservative Post check。

这个阶段只修复严重硬错误,禁止做通用润色改写,具体的:

检测:截断、重复生成、JSON损坏、语种错乱、空输出;

简单机械问题做确定性修复;实质性错误才调用修复Agent重写;没问题的译文完全不动。

四阶段裁判引导迭代Judge‑Guided Iteration(仅开发调优阶段,非推理阶段)。

开发阶段,拿GPT‑5.5作为锚定基线;识别表现差的文档,迭代更新prompt和后处理规则,重跑困难样本,迭代优化整套Agent流程。

最后,WMT26放弃自动指标全部用大规模对比人工评测cESA,代表机器翻译评估范式转向;自动指标容易被过拟合,而专项测试套件可以挖掘普通评测看不见的缺陷。

二、关于我们

老刘说NLP技术社区,自2022年建立以来,以公正、客观的角度,围绕‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍知识图谱本体论+RAG知识库+Agent智能体三个方向做深入跟进,加入方式在:https://mp.weixin.qq.com/s/_sEWHeV20sN1JcwGJU9tJw


前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →