带机会约束的个性化 LLM 路由与在线偏好学习
Chance-Constrained Personalized LLM Routing with Online Preference Learning
精选理由
在未知偏好下实现低成本且可靠的个性化大模型路由。
AI 摘要
arXiv:2610.22695v1 公告类型：新增 摘要：我们研究个性化 LLM 路由问题，其中路由器需要在成本和能力各不相同的异构模型之间进行选择。路由器必须在确保实际响应质量可靠的同时，最小化累积推理成本，尽管用户偏好未知，并且必须在部署期间通过反馈进行学习。我们将该问题表述为一个带约束的上下文赌博机，并提出一种在学习偏好的同时平衡成本与质量的算法。在逻辑偏好模型和严格可行性条件下，我们证明了：相对于最优的平稳随机化上下文预言机，该算法具有次线性的期望成本遗憾，并且能够以高概率保证实际累积满意度。该框架还可扩展至更广泛的具有可靠性要求的在线模型选择问题。