哔哩哔哩技术公众号文章

Index-Translate:支持 150 种语言的多模态翻译模型是如何炼成的?

哔哩哔哩 Index LLM 团队推出 Index-Translate 系列。文本翻译覆盖 150 种语言,提供 2B、9B 和 35B-A3B(preview) 三种规模,同时支持图文翻译;系列还提供语音翻译、音节控制与长文档翻译能力。

哔哩哔哩技术

公众号 · 1 篇文章

1 概述


一段内容进入另一种语言时,需要保留下来的往往不只有字面意思。字幕要适应画面时长,技术文档要保留术语和格式,小说要延续人物称呼与叙述风格,视频配音还要接住原声中的表达。翻译模型需要在语义忠实、任务约束和内容形态之间建立联系。

围绕这些需求,哔哩哔哩 Index LLM 团队推出 Index-Translate 系列。文本翻译覆盖 150 种语言,提供 2B、9B 和 35B-A3B(preview) 三种规模,同时支持图文翻译;系列还提供语音翻译、音节控制与长文档翻译能力。本文简要介绍这些功能,重点展开它们背后的训练设计。

我们还观察到图片文字翻译的跨模态泛化:Index-Translate 的中训练与后训练均未使用图片数据,但借助继承自 Qwen3.5 的视觉通路,模型可以直接根据图片生成译文。后文将结合多模态评测说明这种能力的表现,以及它随模型规模变化的边界。

开源不到半个月,GitHub Star 已超过 1,600,Hugging Face 系列模型总下载次数突破 10 万次。感谢大家的关注、试用与反馈。

Index-Translate:主力翻译模型,支持多语言文本翻译与图文翻译;文本翻译可遵循术语、格式、风格与上下文指令。

围绕不同内容形态与任务约束,我们还推出三款衍生模型:

  • Index-Echo:语音到文本、语音到语音翻译,并利用源音频提供音色条件。

  • Index-Homura:根据指定音节数调整译文,用于字幕和配音等时间受限场景。

  • Index-NativeLong:完整输入长文档,一次生成完整译文,学习跨段落的一致性。


  1. 在线 Demo:https://index-translate.bilibili.com/

  2. GitHub:https://github.com/bilibili/Index-Translate

  3. Hugging Face:https://huggingface.co/collections/IndexTeam/index-translate

  4. 免费 API:https://github.com/bilibili/Index-Translate#option-1-free-online-api-zero-gpu-setup

完整方法与实验见 Index-Translate 技术报告(https://arxiv.org/abs/2609.40181)[1]。


图片

图 1 Index-Translate 文本翻译七维评测,包含 35B-A3B(preview)、9B、2B,以及 Hy-MT2-30B-A3B 等代表性模型。各轴按全部 14 款参评模型的最小值和最大值归一化至 0–100,表示相对表现,不是准确率;灰色虚线由各项非 Index 最优分数组成,并非单一模型。


2 多语言底座如何形成


Index-Translate 基于 Qwen3.5 base构建[2]。中训练同时使用通用文本回放(G)、独立采样的单语文本(M)和平行翻译数据(P):前两者保留语言理解与表达能力,平行数据加强跨语言对齐。进入训练后期,再增加中转组织数据(V),关联同一内容的多个语言版本[3]。

我们采用 WSD(Warmup–Stable–Decay)学习率调度中的 constant 和 decay 阶段[4]。Constant 阶段保持固定学习率,使用通用、平行、单语数据的均衡配比;decay 阶段逐步降低学习率,并以中转数据为主,兼顾核心与完整语种覆盖。2B、9B、35B-A3B 共享下面的基础文本配方,使用 AdamW、4,096 tokens 序列长度和 4,096 条序列的全局 batch。

表 1 基础文本模型的 WSD 中训练配方

图片


pivot-20 与 pivot-148 的计数不含英语、中文;加入这两种语言后,分别对应 22 个核心语言条目和 150 个完整语言条目。这里的中转是训练数据的组织方式,实际推理直接生成目标语言译文。

配方选择参考了技术报告中的先导实验。下表保留代表性 constant 设置,以及相同 decay 预算下的平行/中转对比[1]。

表 2 Constant 与 decay 的代表性配方实验

图片


Constant 组在 4K 上下文、step 7,000 比较,翻译分为 FLORES-200 与 WMT24++ 的英文源、中文源四项 COMET 均分的等权平均,分别覆盖 20 和 18 个目标语言。Decay 组采用 Qwen3-8B、16K 上下文,均到达 step 10,000,decay 预算同为 25.17B token positions,评测 20 个目标语言。两组翻译口径不同,应分组比较;NLU 为 11 项多语言通用任务的宏平均。粗体表示各组内的指标最优。先导实验与表 1 的最终共享配方分别报告。

Constant 阶段需要兼顾单语与平行数据。1:1:1 在完整的八种候选配比中取得最高翻译分,并列最高 NLU 分;去掉单语或平行数据,两项分数都下降。继续提高平行权重到 1:1:4,也没有带来更高的翻译分。

Decay 阶段的“纯中转”仍保留 G 和 M,只是不含普通平行数据 P。它的翻译分为 0.7991,略高于平行+中转的 0.7971;后者完整比例为 G:M:P:V = 1:2:2:4,NLU 略高。加入 P 也改变了其他数据流的归一化份额,所以这是两套完整配方的比较。

阶段收益还在 2B、9B 上单独跟踪。按“原始底座 → constant 结束 → decay 结束”,2B 的翻译分为 0.7015 → 0.7707 → 0.7898,9B 为 0.7726 → 0.7924 → 0.8007;两个阶段都观察到翻译收益。NLU 在 constant 阶段下降,在 decay 阶段部分恢复,但仍低于原始底座。这组结果来自 20+ 语种开发集。

语言覆盖也要单独验证。在 81 个目标语言的实验中,2B 的 decay 数据由 20+ 扩到 100+ 语种后,61 个非核心语种的校正 COMET 均分(错目标语言输出计零)从 0.5605 提升至 0.6570,目标语言偏离率从 1.94% 降至 0.89%,核心语种均分大体稳定。后训练继续保留低资源方向,使这种覆盖能够延续下去。


图片

图 2 多语言中训练之后,通用、指令与梗翻译专家分别学习任务能力,再通过参数融合和针对性蒸馏形成文本模型。图中的 0.8/0.1/0.1 融合权重对应报告中的 2B 与 9B 配置。


3 通过任务奖励学习可用的翻译


3.1 先学习示例 再优化任务目标


在共同底座上,我们分别训练通用翻译、指令翻译和梗翻译专家。监督微调(SFT)提供高质量示例,强化学习(RL)则让模型围绕各类任务的目标继续优化。

通用翻译需要关注漏译、增译与事实偏移。仅靠语义相似度指标,可能无法充分惩罚这些错误。因此,我们将目标语言有效性、基于参考译文的 XCOMET-XXL 翻译质量评分[17]和基于源文的忠实性评分结合起来:语言错误触发门控,忠实性错误则降低奖励,避免一段流畅译文掩盖内容缺失。

指令翻译面对的是更具体的要求,例如“保持 JSON 结构”“产品名按词表翻译”“保留代码占位符”“使用某种叙述语气”。我们采用 Rubric-as-Reward,将约束拆成可检查的硬条件和分级评估的软条件。结构、术语或占位符等硬检查失败时,奖励门控会置零;风格、上下文理解等软条件则参与分级评分。

图片

图 3 通用翻译奖励组合语言门控、参考质量与忠实性;指令翻译奖励进一步引入硬约束门控。g 表示二值门控,q 表示分级质量或约束评分。


通用与指令专家使用 GRPO 优化[1],通过同一输入下多条候选译文的相对奖励学习更好的输出。梗翻译则使用上下文与参考引导的评审,让模型学习非字面含义、文化功能和语用效果,必要时选择意译、解释或文化适配。


3.2 让评审器跟上模型变化


奖励函数同样可能成为模型投机的对象:输出得到更高评分,不一定意味着真实翻译质量同步提高。随着策略模型更新,固定评审器面对的输出分布也在变化。

我们引入 RIVAL 的对抗式评审监督[5],交替更新评审器与策略模型,并结合偏好排序、辅助定量监督和历史输出回放,让评审器持续学习当前策略的错误模式。这样,强化学习中的监督可以随模型行为变化而调整,降低对固定评审器弱点的依赖。


3.3 融合专家后改善薄弱任务表现


不同专家各有所长,但将参数合并后,能力并不一定全部保留。我们先对兼容的专家做参数插值[6],再评测融合模型在哪些任务上仍有不足。报告中的 2B、9B 配置采用通用、指令、梗翻译专家 0.8/0.1/0.1 的融合权重。

随后,我们进行针对性的多教师 on-policy 蒸馏(MOPD)[7]:学生先生成自己的译文,再由与任务匹配的教师提供 token 级监督,使用 reverse-KL 目标优化。学生在自己实际会产生的输出路径上继续学习,用于改善融合后的薄弱任务;实际效果需要结合翻译质量与约束遵循共同评估。

这套流程将“分别学好任务”“整合互补能力”和“检查整合后的缺口”连接起来,也保留了对能力迁移边界的观察。比如,精确音节控制在报告研究的融合与蒸馏设置下迁移较弱,因此我们继续保留专门的 Homura 模型。


4 Index-Echo 如何连接翻译与声音


图片

图 4 Index-Echo 先学习语音到文本翻译,再通过 Hidden2CV mapper 连接语音生成路径。S2ST 的对齐与后续 DiffRO 阶段保持 S2TT 骨干冻结。


4.1 从音频理解到目标语言文本


Index-Echo 的语音到文本翻译(S2TT)由音频编码器、连接器和 Index-Translate 解码器组成。音频编码器使用 Qwen3-Omni 的 AuT 模块[8],连接器把音频特征接入翻译模型,目标语言指令控制输出方向。训练时,这些模块通过语音翻译监督端到端更新,使文本底座能够直接利用源音频完成翻译。


4.2 用隐层表示接入语音生成


语音到语音翻译(S2ST)在已训练好的 S2TT 上继续扩展。我们使用约 30M 参数的 Hidden2CV mapper,将翻译模型最后一层的 hidden states 映射到 CosyVoice3 的语义层[9],让语音生成路径接收翻译模型的连续表示。源音频同时提供参考提示与 CampPlus 说话人向量,为跨语种输出提供音色条件。

训练分两步进行:先冻结语音翻译与语音生成骨干,蒸馏对齐 mapper;随后进行可微奖励优化(DiffRO),继续保持 S2TT 冻结。DiffRO 通过 Gumbel-Softmax 对语音 token 采样做可微近似,使 Token2Text 内容一致性奖励能够沿语音生成路径回传,优化生成内容与目标译文的一致性[9]。

目前发布的 S2ST 覆盖六个方向:中文到英语、西班牙语、日语,以及英语到中文、西班牙语、日语。Demo 中可以直接查看视频字幕翻译与跨语种配音效果。


5 时间预算与长文档的专项训练


5.1 Homura 让音节预算进入训练目标


配音中,一句译文即使含义正确,也可能读不进原视频留下的时间窗口。单纯要求“简短一些”难以稳定控制输出,过度压缩又可能损失信息。

Index-Homura 将目标音节数作为显式输入,并用 GRPO 联合优化翻译质量和音节偏差。模型通过词汇选择与句法重组调整表达长度,使译文接近给定预算,同时尽量保留原意。音节数为时间受限翻译提供可操作的控制量;最终播放时长还与语速、停顿和语音合成设置有关。

在技术报告的 SandGlass 评测中,Index-Homura-9B 的音节数落在目标值 ±10% 范围内的比例为 81.92%。这类评测同时检查翻译质量与预算遵循,使长度控制的收益可以与内容损失一起分析。HOMURA 的研究背景和方法可进一步阅读论文(https://arxiv.org/abs/2601.10187)[10]。


5.2 NativeLong 学习持续生成完整译文


文档翻译的难点会随着上下文拉长而变化。人物名、术语和概念区分可能在几十段之后再次出现;逐块翻译时,局部译文各自通顺,整篇却可能出现称呼漂移或概念混用。

Index-NativeLong 将完整源文与完整目标译文作为文档级监督,让模型在保留全文上下文的条件下持续生成[11]。2B 模型结合长序列中训练衰减与文档 SFT,9B 模型则从融合后的文本模型继续进行文档训练。报告中的训练与评测覆盖约 4K–64K 中文侧 tokens 的文档长度分组。

例如,一篇地质文献先区分 ice age 与其中的 glacial 阶段,后文再次出现这些词时,译文需要持续保留“冰河时代”与“冰期”的概念差异。文档级训练关注的正是这种跨段落关系,以及长输出中可能出现的漏译、提前结束和术语不一致。我们也构建了 NativeLongBench,按不同长度分组检验完整文档翻译能力。


6 用不同评测检验不同能力


6.1 文本翻译评测


通用翻译、指令遵循、文化表达和文档一致性,需要分别评测。我们使用 FLORES[12]、WMT24++[13]等检验通用质量,用 instTrans 检查格式、术语、风格与上下文约束,并通过 MEME、SandGlass 和 NativeLongBench 检验相应的专项能力。

在报告的文本对比中,Index-Translate-35B-A3B(preview)的 FLORES COMET-22 为 0.8794,instTrans IFscore 为 0.8336。文本翻译与通用能力对比中的所有参评模型均关闭思考模式;语音评测中开启思考的基线在表内明确标注。各任务的完整设置、对比结果与分析见技术报告(https://arxiv.org/abs/2609.40181)。

为便于阅读,技术报告的文本主表按指标分组呈现,保留全部 14 款对比模型。

表 3a 通用翻译 指令与文化表达

图片


FLORES 使用 COMET-22[16];WMT26 为 0–100 的评审分,其余指标为 0–1,均为越高越好。instTrans 的译文质量(Quality)和指令遵循(IFscore)由 GPT-5.6-Sol 分别评审;MEME 评测社区与文化表达的翻译质量。粗体数值表示本列最优。

表 3b WMT24++ IFMTBench 与垂类评测

图片


以上指标均为 0–1,越高越好。IFMTBench[14]的翻译质量与指令遵循分别报告;垂类均值为五项领域翻译分数的等权平均,包含 GuoFeng 文学翻译评测[15]。

表 4a 小语种通用翻译 FLORES_minor_pair

图片


表 4b 小语种指令翻译 instTrans_minor

图片


FLORES_minor_pair 覆盖 62 种语言的 1,040 个方向;instTrans_minor 含 2,793 项指令翻译任务。偏离率表示输出语言不是指定目标语言的比例,越低越好;其余指标越高越好。North-Small-Translate 指 218B-A25B 模型,TranslateGemma-12B 指 translategemma-12b-it。以上结果完整保留技术报告文本主表的指标与模型,更多设置见完整评测表(https://github.com/bilibili/Index-Translate/blob/main/docs/evaluation.md)。


6.2 图片翻译能力的涌现


Index-Translate 在文本训练后展现出图片翻译能力,可直接读取图片中的文字并生成目标语言译文。模型沿用 Qwen3.5 的视觉通路,中训练与后训练均使用文本数据[1,2]。

我们在三组数据上评估图片翻译能力:MMTIT-Bench[18] 包含 1,243 张图片、14 种源语言,译入英语和中文;FLORES-rendered 将 FLORES_minor_pair 文本渲染为 1,200 张纯色背景图片,覆盖 60 种源语言和两个目标语言;Vistra[19] 包含 763 张自然场景图片、四个目标语言,采用按阅读顺序拼接的参考译文评估整图翻译。评测采用图片输入和零样本翻译指令,以 COMET-22[16] 衡量译文质量,各模型使用统一的非思考推理设置。

Index-Translate-35B-A3B(preview)在三项评测中均取得表内最高分:MMTIT-Bench 为 0.7845,FLORES-rendered 为 0.7050,Vistra(适配)为 0.7168,分别比同规模 Qwen3.5 高 0.0038、0.0124 和 0.0137。从 2B、9B 到 35B-A3B,Index-Translate 的三项图片翻译得分逐步提高,较大模型表现出更强的跨模态翻译能力。

表 5 图片文字翻译评测

图片


下一个版本,我们将进一步融合语音翻译、视觉语言翻译与文本翻译,并将长文本翻译能力纳入统一模型。通过统一的多语言与多模态能力,同一模型将面向文字、图片和语音输入完成翻译,同时强化长篇内容中的上下文衔接、术语一致性与完整译文生成,保留原文的语义和表达风格。


7 在线体验与免费 API


想先看看效果,可以打开 Demo(https://index-translate.bilibili.com/);推理代码与使用教程在 GitHub(https://github.com/bilibili/Index-Translate),模型仓库汇总在 Hugging Face(https://huggingface.co/collections/IndexTeam/index-translate)。

我们也提供无需本地 GPU 的免费公开 API,兼容 OpenAI 的 chat completions 与 responses 接口。当前服务模型标识为 Index-Translate-35B-A3B,可用下面的请求体验中文翻译:

curl https://index-translate.bilibili.com/v1/chat/completions \

-H 'Content-Type: application/json' \

-d '{

"model": "Index-Translate-35B-A3B",

"messages": [

{

"role": "user",

"content": "Translate into Chinese: Welcome to EMNLP."

}

],

"temperature": 0

}'

API base URL 为 https://index-translate.bilibili.com/v1。更多调用方式与接入示例见免费 API 文档(https://github.com/bilibili/Index-Translate#option-1-free-online-api-zero-gpu-setup)。欢迎带着自己的术语表、字幕、小说或文档来试用,也欢迎在 GitHub 分享反馈。


8 EMNLP 现场见


如果你也会参加 EMNLP,欢迎来听我们的 oral、到 poster 现场交流,一起聊聊翻译、强化学习和多语言内容生产。

HOMURA oral 已安排在 2026 年 10 月 27 日 09:00–10:30 的 Machine Translation and Semantics session,地点 F9-10。

我们也会参加 Poster Session D(10 月 26 日 11:00–12:30,Hall H),以及 WMT poster session,欢迎到现场交流。以上时间均为布达佩斯当地时间,具体安排请以 EMNLP 官方日程(https://2026.emnlp.org/program/)和 WMT 官方日程(https://www2.statmt.org/wmt26/program.html)为准。

现场还会发放精美谷子,欢迎来交流技术与使用体验,把喜欢的周边带回去。我们 EMNLP 见!


图片

图 5 团队周边展示。


参考文献


[1] Tianjiao Li, Mengran Yu, Chenyu Shi, Lusheng Zhang, Qisi Chen, Yanshan Zhou, Ji Qi, Jingying Liu, Yuang Feng, Ziang Cui, and Tianxing Yan. Index-Translate: A Multilingual Translation Model Family — Text, Speech, Controlled Dubbing, and Long-Document Translation. arXiv:2609.40181, 2026. 原文(https://arxiv.org/abs/2609.40181).

[2] Qwen Team. Qwen3.5: Towards Native Multimodal Agents. February 2026. 原文(https://qwen.ai/blog?id=qwen3.5).

[3] Yingli Shen, Wen Lai, Shuo Wang, Ge Gao, Kangyang Luo, Alexander Fraser, and Maosong Sun. From Unaligned to Aligned: Scaling Multilingual LLMs with Multi-Way Parallel Corpora. Proceedings of EMNLP, pages 7357–7379, 2025. 原文(https://aclanthology.org/2025.emnlp-main.374/).

[4] Shengding Hu et al. MiniCPM: Unveiling the Potential of Small Language Models with Scalable Training Strategies. arXiv:2404.06395, 2024. 原文(https://arxiv.org/abs/2404.06395).

[5] Tianjiao Li, Mengran Yu, Chenyu Shi, Yanjun Zhao, Xiaojing Liu, Qiang Zhang, Qi Zhang, Xuanjing Huang, and Jiayin Wang. RIVAL: Reinforcement Learning with Iterative and Adversarial Optimization for Machine Translation. arXiv:2506.05070, 2025. 原文(https://arxiv.org/abs/2506.05070).

[6] Mitchell Wortsman et al. Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time. ICML, PMLR 162:23965–23998, 2022. 原文(https://proceedings.mlr.press/v162/wortsman22a.html).

[7] Wenhan Ma, Jianyu Wei, Liang Zhao, Hailin Zhang, Bangjun Xiao, Lei Li, Qibin Yang, Bofei Gao, Yudong Wang, Rang Li, Jinhao Dong, Zhifang Sui, and Fuli Luo. MOPD: Multi-Teacher On-Policy Distillation for Capability Integration in LLM Post-Training. arXiv:2606.30406, 2026. 原文(https://arxiv.org/abs/2606.30406).

[8] Jin Xu et al. Qwen3-Omni Technical Report. arXiv:2509.17765, 2025. 原文(https://arxiv.org/abs/2509.17765).

[9] Zhihao Du et al. CosyVoice 3: Towards In-the-wild Speech Generation via Scaling-up and Post-training. arXiv:2505.17589, 2025. 原文(https://arxiv.org/abs/2505.17589).

[10] Ziang Cui et al. HOMURA: Taming the Sand-Glass for Time-Constrained LLM Translation via Reinforcement Learning. arXiv:2601.10187, 2026. 原文(https://arxiv.org/abs/2601.10187).

[11] Yushi Bai et al. LongWriter: Unleashing 10,000+ Word Generation from Long Context LLMs. ICLR, 2025. 原文(https://arxiv.org/abs/2408.07055).

[12] NLLB Team et al. No Language Left Behind: Scaling Human-Centered Machine Translation. arXiv:2207.04672, 2022. 原文(https://arxiv.org/abs/2207.04672).

[13] Daniel Deutsch et al. WMT24++: Expanding the Language Coverage of WMT24 to 55 Languages & Dialects. Findings of ACL, pages 12257–12284, 2025. 原文(https://aclanthology.org/2025.findings-acl.634/).

[14] Mao Zheng et al. Hy-MT2: A Family of Fast, Efficient and Powerful Multilingual Translation Models in the Wild. arXiv:2605.22064, 2026. 原文(https://arxiv.org/abs/2605.22064).

[15] Longyue Wang et al. Findings of the WMT 2023 Shared Task on Discourse-Level Literary Translation: A Fresh Orb in the Cosmos of LLMs. Proceedings of the Eighth Conference on Machine Translation, pages 55–67, 2023. 原文(https://aclanthology.org/2023.wmt-1.3/).

[16] Ricardo Rei et al. COMET-22: Unbabel-IST 2022 Submission for the Metrics Shared Task. Proceedings of the Seventh Conference on Machine Translation, pages 578–585, 2022. 原文(https://aclanthology.org/2022.wmt-1.52/).

[17] Nuno M. Guerreiro, Ricardo Rei, Daan van Stigt, Luisa Coheur, Pierre Colombo, and André F. T. Martins. xCOMET: Transparent Machine Translation Evaluation through Fine-grained Error Detection. Transactions of the Association for Computational Linguistics, 12:979–995, 2024. 原文(https://aclanthology.org/2024.tacl-1.54/).

[18] Gengluo Li et al. MMTIT-Bench: A Multilingual and Multi-Scenario Benchmark with Cognition-Perception-Reasoning Guided Text-Image Machine Translation. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pages 16593–16602, 2026. 原文(https://openaccess.thecvf.com/content/CVPR2026/html/Li_MMTIT-Bench_A_Multilingual_and_Multi-Scenario_Benchmark_with_Cognition-Perception-Reasoning_Guided_Text-Image_CVPR_2026_paper.html).

[19] Elizabeth Salesky, Philipp Koehn, and Matt Post. Benchmarking Visually-Situated Translation of Text in Natural Images. Proceedings of the Ninth Conference on Machine Translation, pages 1167–1182, 2024. 原文(https://aclanthology.org/2024.wmt-1.115/).


-End-

作者丨哔哩哔哩 Index LLM 团队




前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →