QCATS：面向高效预测查询处理的查询上下文感知 Transformer 切片
QCATS: Query Context-Aware Transformer Slicing for Efficient Predictive Query Processing
精选理由
利用查询条件和统计信息预选 Transformer 子网络，在保持预测精度的同时显著降低数据库推理延迟。
AI 摘要
数据库内预测查询处理日益广泛地在关系处理流水线中应用基于 Transformer 的模型。然而，现有的数据库内推理通常仅向推理运行时暴露元组级模型输入，使神经网络执行规划无法获取关系谓词和元数据统计信息。本文提出 QCATS，一种查询上下文感知的 Transformer 切片框架，可在数据库系统内部实现高效的稀疏推理。QCATS 以查询为粒度执行：它不在推理期间对单个词元或元组进行路由，而是在模型执行前，利用查询谓词和元数据统计信息预先选择与上下文匹配的 FFN 切片。该框架包括离线专家构建和轻量级查询级路由，后者在执行期间动态选择专家。QCATS 还引入了异步 CPU-GPU 流水线和路由感知批处理等系统优化。使用 BERT-base 和 Qwen-0.6B 在四种预测查询工作负载上开展的实验表明，QCATS 可实现最高 4.42 倍的延迟缩减，同时保持与稠密基线相当的预测准确率。