arXiv q-bio.NC· Peicheng Wu, Zhenyu Bu, Runze Ma, Lin Du·· 1 小时前精选AI 评分62
REALM 用回顾性知识蒸馏实现因果 LFP 行为解码
REALM: Retrospective Encoder Alignment for LFP Modeling
AI 导读
研究团队提出 REALM，一个面向因果 LFP 行为解码的回顾性知识蒸馏框架，先把跨多个记录会话的双向 Mamba-2 教师模型用连续掩码自编码预训练，再把表征蒸馏到紧凑的因果学生模型。
推荐理由
论文给出因果 LFP 解码器与多模态非因果基线的准确率和参数量对比，可据此判断纯 LFP 路线在无线植入场景的可行性。
正文 · AI 翻译
摘要：脉冲活动一直是行为解码的主要神经信号，因为其高时空分辨率支持精确解码。然而，随着皮层内脑机接口（iBCIs）向更高通道数和无线操作发展，记录脉冲所需的高采样率带来了巨大的功耗和带宽需求。局部场电位（LFPs）具有互补优势，包括更好的长期稳定性、更低的能耗和更低的带宽需求。然而，基于 LFP 的解码器通常精度较低，并且依赖无法直接用于实时部署的非因果架构。我们提出 REALM，一个用于因果 LFP 行为解码的回顾性知识蒸馏（RKD）框架。受语音识别中离线到在线蒸馏的启发，REALM 将预训练的多会话双向 LFP 教师模型的非因果表征知识迁移到因果学生模型。我们首先使用连续掩码自编码（CMAE）在多个记录会话上预训练一个双向 Mamba-2 教师模型，然后通过表征对齐和自编码的组合目标将其表征蒸馏到一个紧凑的因果学生模型。在无标签和微调流程中，REALM 在比较的解码器中均取得了最高的平均准确率，并且相对于每个基线（包括最先进的 CrossModalDistill）都有统计显著的提升。它在预训练、蒸馏和解码全程仅使用 LFP，参数量不到 CrossModalDistill 已发表学生模型的一半，预训练时间仅为其十分之一。这些结果表明，仅使用 LFP 的因果模型可以达到与非因果多模态模型相当的解码精度，为下一代无线和植入式 iBCIs 提供了一种实用且可扩展的方法。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；神经元与认知（q-bio.NC） |
| 引用为： | arXiv:2605.14867 [cs.LG] |
| （或此版本的 arXiv:2605.14867v3 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2605.14867 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Peicheng Wu [查看邮箱]
[v1]
2026年5月14日星期四 14:16:22 UTC（4,080 KB）
[v2]
2026年9月30日星期三 23:31:03 UTC（2,792 KB）
[v3]
2026年10月25日星期日 19:01:03 UTC（2,794 KB）
来源：arXiv q-bio.NC · arxiv.org