Data Differentiator Framework (DDF):在智能体评估流水线(SDSAE)中使用信息论与博弈论度量量化边际数据价值
The Data Differentiator Framework (DDF): Quantifying Marginal Data Value with Information-Theoretic and Game-Theoretic Measures in an Agentic Evaluation Pipeline (SDSAE)
精选理由
帮助企业量化新增数据价值,识别冗余并优化采购决策。
AI 摘要
arXiv:2610.28933v1 公告类型:新 摘要:在数据丰富的企业中,真正困难的问题不是判断候选数据集单独来看是否优质,而是判断它是否能在组织已有数据之外带来额外信息,以及这种增量是否值得其价格。我们提出 Data Differentiator Framework (DDF),这是一种面向候选数据资产的综合评分方法,结合了:(i) 基于互信息、针对现有数据资产组合的冗余惩罚;(ii) 从消融研究中得出的、经过成本归一化并由显著性门控的边际效用评分;以及 (iii) 由业务方设定的明确治理输入(可信度、身份解析质量和战略权重)。该框架通过分阶段流水线 Strategic Data Sourcing Agent Ecosystem (SDSAE) 执行,对于未通过治理或冗余门控的数据资产,跳过成本高昂的模型重新训练步骤。从概念上看,DDF 将 mRMR 特征选择中的“相关性减冗余”原则从特征层面扩展到资产层面,并加入了成本归一化、统计显著性门控和治理项,而 Data Shapley 等逐样本估值方法并未对这些因素建模。我们使用公开的信用卡欺诈基准数据集(284,807 笔交易)对该框架进行验证,构造了覆盖不同冗余程度的五个候选数据资产。只有真正具有差异化的资产通过了显著性门控($\Delta$AUC = +0.0029,DeLong $p = 1.4\times 10^{-9}$,Holm 校正后的 $p = 7.2\times 10^{-9}$),并获得采集建议(DDS = +0.663);完全冗余的资产得分最低(DDS = -0.135)。在22种符合条件的战略权重配置中的19种配置下,以及在 [0.15, 0.66] 范围内的所有决策阈值下,该建议均保持稳定。我们明确说明了案例研究中哪些量是根据数据计算得出的,哪些量是模拟的治理输入,并讨论了基于单一数据集评估的设计局限性。