arXiv cs.AI精选71

运行时压缩风险定价:压缩服务状态的随时有效准入与已服务输出定律

Pricing the Risk of Runtime Compression: Anytime-Valid Admission and a Served-Output Law for Compressed Serving State

· 58天前

精选理由

为压缩服务状态提供可审计的风险定价与在线保证。

AI 摘要

服务状态的运行时压缩以质量换取容量,却没有定价后的保证:系统根据负载信号自适应调整精度,但没有可靠性声明;而经认证的方法则通过对预先声明的事件数量做 union bound 来分配请求级风险预算。我们证明,在一个生产服务栈中,union 预算会在每个长请求上耗尽(100% 的请求),并用一个随时有效、物理记账的账本取而代之;该账本的界限在真实流量上的 352,333 次准入调用中的每一次都成立,并且在一个预注册的留出确认轮次中,在风险匹配的情况下将精确回退率减半(0.30 -> 0.14)——覆盖率是按账户所声明的价格购买的。然后,我们为从认证见证到用户实际体验之间剩余的距离定价:一个经机器检查的设计定律(TV <= tanh(a_q w_thr))将 served-TV 目标转化为一个阈值旋钮;对其实例化的三层审计——测得与紧界相差 1.5x 的 operator-norm 查询包络、替代 Cauchy-Schwarz 球但没有带来收益的测量椭球(0.89x,留出集上可靠),以及门控的运行点(约 700x)——把整个 1064x 差距定位到运行点,这是该定律如今明示的价格,而不再是未知量。对于一个尚未见过的请求,定价界限毫无价值,因此第三个环节是量词:跨 80 条服务历史的可交换外推,用 order-statistic 界限取代 binary conformal prediction 的空洞证书,并能做出区分(相对于 0.51 的校准风险为 0.41)。所有概率核都经过 Lean 4 检查(228 个导出的定理,没有 sorry);究竟哪个对象值得使用这套机制,则在一篇配套论文中通过实证解决,该论文裁定并否决了认证 routing 这一自然替代方案。最终交付的是一个账户:可以支出的风险、可以从定律读出的差距,以及一个能够经受住你尚未见过的请求的界限。

查看原文(arXiv cs.AI)