从手工绘制到生成式创作:面向 Alexa+ 的 RLVR 优化图标生成
From Handcrafted to Generative: RLVR-Optimized Icon Generation for Alexa+
精选理由
展示如何用可验证奖励强化学习提升生成式图标的合规率,并将自动质检落地到 Alexa+ 生产流程中。
AI 摘要
arXiv:2611.06123v1 公告类型:交叉发布 摘要:配备屏幕的 Alexa+ 设备会在对话过程中显示动态图标,以视觉方式强化正在表达的内容。最初的这套图标由设计师逐一手工绘制,这种方式虽然能产出精美的作品,但耗时较长,也无法扩展到覆盖开放式对话中涉及的广泛话题。我们介绍了一条已部署于生产环境的自动化流水线,它仅凭文本描述即可生成这些矢量化动态图标,并根据用户正在进行的对话向其展示相关动画。该流水线将图标创作拆解为一系列阶段:图像生成、语义分解、矢量化、风格化和动画制作。其质量在第一个阶段——图像生成——就已决定,所有下游阶段都依赖于这一阶段。因此,我们重点改进这一最初且最关键的阶段。由于图标需要遵循严格的设计规范,并在小尺寸显示画布上渲染,生成结果往往不适合用于生产环境。由于不存在符合这些约束的线条图标数据集,监督微调并不可行。为此,我们设计了客观验证器,自动标记违反设计规范的生成结果,并利用这些验证器,通过基于可验证奖励的强化学习(RLVR)对流匹配图像生成模型进行微调。在独立于奖励模型的 VLM 评判器评估下,微调后的模型将通过率从 15.7% 提高到 58.7%,达到原来的 3.7 倍。训练后的模型和验证器均已部署到生产流水线中,其中验证器还在最终设计审核之前充当自动化质量关卡。