回译依然重要：利用单语数据通过 LLMs 实现低资源机器翻译

预训练大语言模型（LLMs）在零样本和少样本设置下的许多任务中表现出色。对于低资源语言的机器翻译，显而易见的选择是少样本提示和在小规模平行语料集上进行微调。我们提出一个问题：如果还能获得适量的低资源语言单语数据，情况会如何？我们认为，与继续预训练相比，更有效的利用方式是采用 LLM 出现之前的回译（BT）技术。当前经过微调的 LLM 对各语言的单语句子进行翻译，再利用生成的句对训练其反向翻译能力。训练过程中交替使用平行语料集进行更新，以保持学习的稳定性。在奥里亚语和斯瓦希里语上使用 1,000 个平行句对时，BT 在领域内翻译成低资源语言的任务上，比继续预训练高出 7.7 至 16.4 个 XCOMET-XXL 分数点。采用束搜索解码生成中间译文时，它还优于使用 10 倍平行数据的模型。从平行数据中检索得到的上下文示例可进一步提升 BT 的效果。我们还分析了单语文本的来源、质量和数量。在五种低资源语言上，以印地语作为高资源语言对照，并使用两个 3B 骨干模型，BT 相较于仅使用平行语料进行微调，使译入低资源语言的 XCOMET-XXL 分数提高了 16% 至 173%。针对奥里亚语和梵语的人工盲评结果与自动评估指标一致。