思考的语言语体重要吗?Wenyan 作为中文大语言模型的紧凑推理语体
Does the Linguistic Register of Thinking Matter? Wenyan as a Compact Reasoning Register for Chinese LLMs
精选理由
以文言文压缩中文大模型推理过程,在有限生成预算下减少冗长和漏答,提升推理效率。
AI 摘要
面向推理的中文大语言模型通常以现代白话文呈现可见的推理轨迹,在解码预算有限时,这些轨迹可能过于冗长。我们探究能否通过调整推理的语言语体来提高效率。我们提出 Wenyan Thinking,以文言文生成中间推理,同时保留简短、直接的答案输出。我们以现代汉语推理轨迹为基础,仅将其中的推理字段改写为文言文,并使用改写后的监督数据对 Qwen3-4B-Thinking-2507 进行微调。为区分语体转换与一般性压缩的作用,我们使用相同的源数据、教师模型系列、基础模型和监督微调(SFT)方案,构建了紧凑现代汉语对照组。在 MMLU-ProX-Lite-ZH、CEVAL 和 AGIEval-CN 上开展的预算敏感性评测中,Wenyan Thinking 在解码受限条件下显著缩短了推理长度,并降低了答案缺失率。紧凑改写解释了效率提升的很大一部分,而文言文在主要基准上始终优于紧凑现代汉语对照组,在其他基准上也保持了竞争力。这些结果表明,语言语体是实现中文大语言模型高效可见推理的一个实用设计维度。