어떤 모델들이 우리의 모델을 기반으로 하는가? 현대 LLM의 보이지 않는 의존성 감사

요약

본 논문은 현대 LLM 학습 파이프라인의 복잡하고 재귀적인 의존성 구조 문제를 다룹니다. 연구진은 ModSleuth라는 에이전트 시스템을 개발하여, 소스 기반 증거를 통해 공개 아티팩트 전반에 걸친 LLM 의존성 그래프를 재구성하는 방법을 제시했습니다. 이를 통해 대규모 모델 생태계의 투명한 분석과 잠재적 문제를 발견할 수 있습니다.

핵심 포인트

• ModSleuth는 소스 기반 증거로 LLM 의존성 그래프를 재귀적으로 구축합니다.
• LLM 개발은 복잡하고 파편화된 아티팩트 전반에 걸쳐 의존성을 가집니다.
• 의존성 분석을 통해 라이선스, 학습-평가 결합 등 다양한 문제를 발견했습니다.
• 이 연구는 현대 LLM 생태계의 투명한 이해를 돕습니다.