학습된 오디오 임베딩 (audio embeddings)이 아무도 인코딩하라고 지시하지 않은 구조를 인코딩하고 있을까요? 우리는 네 가지 대규모 사전 학습된 오디오 모델 (AST, CLAP, BEATs-bio, BirdNET)을 모델들이 훈련 중에 전혀 접하지 못한 다운스트림 태스크 (downstream task), 즉 종의 발성으로부터 계통 발생 거리 (phylogenetic distance)를 복구하는 작업으로 조사합니다. 만약 임베딩 공간 (embedding space)의 기하학적 구조가 생명의 나무 (tree of life)를 추적한다면, 해당 표현 (representation)은 모델이 최적화된 레이블 (labels)보다 더 깊은 무언가를 포착하고 있는 것입니다. 우리는 두 개의 독립적인 방사군 (radiations)에 대해 맨텔 테스트 (Mantel tests)를 수행합니다. 32종의 해양 포유류 (Watkins Marine Mammal Sound Database에서 추출한 1,754개의 녹음 데이터)에서, 파운데이션 모델들은 26종의 고래류 (cetaceans) 내에서 강력한 계통 발생 신호 (phylogenetic signal)를 복구했습니다 (CLAP r=0.82, BEATs-bio r=0.82, AST r=0.74; 모두 p<0.001). 이는 어떤 분류군에 대해서도 보고된 것 중 가장 높은 음향-계통 상관관계입니다. 수작업으로 제작된 MFCC 특징 (features) (105d)은 아무것도 찾아내지 못했습니다 (r=0.040, p=0.338). 이 격차는 모든 임베딩을 105차원으로 PCA 투영 (PCA-projecting)한 후에도 유지되므로, 표현 크기에 의한 인위적인 결과 (artefact)가 아닙니다. 또한 주파수 (dominant frequency)를 통제한 편 맨텔 테스트 (partial Mantel test)에서도 유지되므로 (편 맨텔 r=0.404, 설명된 분산의 97% 유지), 단순히 음높이 (pitch)가 변장한 것이 아닙니다. 우리는 Jetz et al. (2012) 계통도를 사용하여 20종의 조류에 대해 분석을 반복하였으며, 이번에는 약 6,000종의 조류에 대해 엔드투엔드 (end-to-end)로 훈련된 분류기인 BirdNET을 추가했습니다. 범용 파운데이션 모델들은 다시 한번 신호를 복구했습니다 (AST r=0.55, CLAP r=0.52). 예상치 못한 결과는 BirdNET이나 생물 음향학적 BEATs-bio 모두 이들을 능가하지 못했다는 점입니다 (r은 약 0.32에서 0.36 사이). 훈련 도메인을 대상 분류군과 일치시키는 것 자체는 도움이 되지 않습니다. 사전 학습된 오디오 임베딩은 두 개의 독립적인 방사군에 걸쳐 진화적 정보를 담고 있으며, 이러한 정보가 나타나기 위해 도메인 특화 사전 학습 (domain-specific pretraining)이 반드시 필요한 것은 아닙니다.