我们需要解释卡片，将解释算法与现实世界连接起来

arXiv:2606.16786v2 公告类型：替换 摘要：算法解释旨在帮助利益相关者理解不透明的算法决策，但在实践中往往未能达到预期。首先，算法解释的含义往往与人们的直觉预期不同，因此需要专业知识才能正确解读。其次，近期研究表明，常用的解释算法无法提供有关复杂决策函数行为的有效信息。这些问题共同造成了一个鸿沟：解释看似传达的信息与其实际提供的信息并不一致。在本研究中，我们提出为解释算法配备解释卡片，在标准解释的基础上补充有关鲁棒性和有效性的信息，并提供清晰的解读指南。这些补充信息可以使原本缺乏有效信息的解释具有实际用途，同时也有助于识别解释不具备实际用途的情况。重要的是，解释卡片中的解读指南将责任从用户转移到了提供者：不再指望用户自行辨别从解释中能够和不能得出哪些结论，而是要求提供者事先明确说明。我们以反事实解释和 SHAP 为例，展示提供者如何构建解释卡片，并说明这些卡片能够为用户提供正确解读所需的指导。我们进一步指出，解释卡片为落实《欧盟人工智能法案》中的可解释性条款提供了一种切实可行的手段。总体而言，解释卡片是推动解释算法适用于现实世界应用场景的重要一步。