大规模 LLM 交互识别方法

本文介绍了 SPEX 与 ProxySPEX 两种算法，利用稀疏恢复和层次结构在大规模 LLM 交互识别中显著降低计算成本。

• SPEX 通过信号处理和编码理论实现数千个组件的交互发现，ProxySPEX 在保持性能的同时将 ablation 数量减少约 10 倍。
• 两种方法已在 SHAP‑IQ 仓库公开，支持特征、数据和模型组件的解释。