레이블 없는 데이터를 활용한 일반화 가능한 신경 집단 디코딩
요약
레이블 없는 데이터를 활용해 신경 데이터를 디코딩하는 MOJO 프레임워크를 소개합니다. 자기 지도 학습(SSL)과 지도 학습(SL)을 결합하여, 데이터가 부족한 상황에서도 높은 성능과 일반화 능력을 보여줍니다.
핵심 포인트
- MOJO: 마스크드 오토인코더 기반의 공동 학습 프레임워크
- 자기 지도 학습을 통해 레이블 없는 데이터 활용 극대화
- 소량의 데이터만으로도 우수한 성능을 내는 Few-shot 미세 조정 가능
- 스파이크 데이터뿐만 아니라 음성 전위 데이터로도 일반화 성공
견고하고 정확한 신경 디코더는 뇌-컴퓨터 인터페이스(BCI) 및 폐쇄 루프 실험과 같은 신경 기술에 필수적입니다. 최근 연구에서는 스파이크 수준에서 신경 데이터를 토큰화하는 것이 다중 세션 사전 학습을 용이하게 하고 최첨단 디코딩 성능을 제공한다는 것을 보여주었습니다. 하지만 현재의 스파이크 기반 모델은 지도 학습(SL)에 국한되어, 행동 레이블이 쌍으로 매칭된 데이터셋으로만 훈련이 제한됩니다. 이러한 한계를 해결하기 위해, 우리는 마스크드 오토인코더 기반 공동 학습(Masked autOencoder-based JOint training), 즉 MOJO를 소개합니다. MOJO는 마스크드 오토인코딩을 통한 자기 지도 학습(SSL)과 SL 목적 함수를 결합하여 스파이크 토큰화 모델을 위한 훈련 프레임워크입니다. 우리는 원숭이 운동 피질의 도달 과제와 시각 및 의사 결정 과제 중 다중 영역 마우스 기록에 걸친 세 가지 스파이킹 데이터셋에서 MOJO를 평가했으며, 순수하게 SL로 훈련된 모델보다 우수한 성능을 입증했습니다. 이러한 개선은 특히 레이블링된 데이터가 제한적인 경우, 즉 새로운 세션의 소량의 레이블링된 데이터만 사용 가능한 몇-샷 미세 조정(few-shot finetuning)에서 두드러집니다. SSL을 통합하는 것은 또한 더 해석 가능한 신경 표현을 제공하여, 이러한 태스크에 대한 명시적 최적화 없이도 뇌 영역 분류 및 스파이크 통계 예측 성능을 향상시킵니다. 나아가 우리는 MOJO가 스파이킹 데이터를 넘어 음성 중 인간 전두엽 피질 전위(electrocorticography)로 일반화됨을 보여주었으며, 여기서 순수하게 SL로 훈련된 모델보다 계속해서 우수한 성능을 보이고 연속 신호에 특별히 설계된 신경 기반 모델(NFMs)과 비교할 수 있는 성능을 달성합니다. 전반적으로, SSL을 스파이크 토큰화 모델에 추가하는 것은 레이블이 부족한 환경에서 성능을 향상시키고 다양한 태스크와 종에 걸쳐 레이블 없는 데이터의 사용을 가능하게 하며, 다른 신경 양식으로 일반화됩니다. 이러한 결과는 NFM 훈련 시 더욱 유연하고 확장 가능한 데이터 사용 경로를 제시합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기