arXiv cs.LG精选76

超越准确率:EEG基础模型的鲁棒性、可解释性与表达能力

Beyond Accuracy: Robustness, Interpretability and Expressiveness of EEG Foundation Models

· 5天前

精选理由

揭示EEG基础模型三大能力的评估陷阱,为稳健测试、解释分析与模型应用提供依据。

AI 摘要

arXiv:2605.17562v2 公告类型:替换 摘要:EEG基础模型(EEG-FMs)主要依据干净、同分布数据上的准确率进行评估;与监督式基线和较弱的冻结表示相比,它们仅展现出有限的性能提升。本研究通过在十个数据集上评估六个EEG-FMs和一个监督式基线,从三个分析层面考察这些结论是否适用于超越干净准确率的情形:(i)鲁棒性:我们施加了测试时扰动,包括加性噪声、随机及基于脑区的通道丢弃,以及特定脑区的噪声注入。分析表明,没有任何单一模型能够在所有失效模式下占据主导地位。噪声鲁棒性最强的模型之一,在通道丢弃下却最为脆弱;而且,当通道被移除而不是进行零填充时,大部分通道丢弃脆弱性会消失。(ii)可解释性:利用EEG-FMs中的归因方法,我们表明,模型总体上会将相关性集中于与任务相匹配的脑区,这与已知的神经生理学规律一致。(iii)表达能力:我们证明,先前归因于低质量预训练表示的仅使用任务头时性能不佳,在很大程度上是由池化策略导致的;当保留其词元级嵌入时,EEG-FMs具备足够的表示能力。此外,通过分块探测和注意力分析,我们表明,后部模块会在微调过程中被重新调整用途,而前部模块已经包含与任务相关的信息。我们的结果表明,对EEG-FMs的结论取决于评估选择;我们建议,未来对EEG-FMs的评估应报告各类扰动下的鲁棒性,生成归因图,并考察多种池化策略。

查看原文(arXiv cs.LG)