Yalda-Embedding:具有竞争力的波斯语检索模型的开放式开发
Yalda-Embedding: Open Development of a Competitive Persian Retrieval Model
精选理由
为波斯语检索提供高性能、轻量且开放可复现的嵌入模型与训练资源,降低开发和复用门槛。
AI 摘要
尽管多语言文本表示已取得进展,但波斯语高效稠密检索仍受限于语言专用训练资源和紧凑型嵌入模型的不足。我们推出 Yalda Embedding,这是一个拥有 5.958 亿参数的波斯语检索模型,使用超过一百万个查询—文档对,在 Qwen3-Embedding-0.6B 的基础上进行适配。在 FaMTEB 的八项波斯语检索任务上,该模型在受评测的 0.6B 模型中取得了最高的宏平均分数,达到 0.5488,并在每项任务上均优于 Qwen3-Embedding-0.6B 和 F2LLM-v2-0.6B。其表现也接近 Qwen3-Embedding-4B,在四项任务上胜出,一项任务上持平,宏平均分数仅落后 0.0075。一项递增式消融研究考察了对比学习批次大小、优化稳定化,以及来自 F2LLM-v2-8B 的关系知识蒸馏。在仅训练一个轮次的设置下,单独采用对比微调相较于初始化模型仅带来小幅平均提升,并在两项任务上出现性能下降。最终的蒸馏配置在全部八项任务上均优于未蒸馏模型,将平均分数从 0.4813 提升至 0.5488,同时未增加推理时的模型规模。这些提升也涵盖了包含困难负例的评测任务,尽管训练时并未使用显式挖掘或提供的困难负例。我们发布了模型权重、训练与评测代码、查询—文档配对数据集,以及附有教师模型嵌入的对应版本,以便研究者检查数据组成和训练流程、开展独立评测,并在无需重复执行高成本教师模型推理的情况下复用这些资源。