LLM이 이제 말없이 서로 대화할 수 있게 되었습니다.

요약

MIT 연구진은 LLM 에이전트들이 비효율적인 텍스트 요약 대신 내부 상태(KV-cache)를 직접 전송하는 'SwaT (Swarm Telepathy)' 시스템을 개발했습니다. 이 방식은 모델 크기나 아키텍처에 관계없이 작동하며, 통신 정확도를 높이고 속도를 크게 개선합니다. 나아가 텍스트만 학습한 모델로 시각 능력을 전달하는 등 교차 모델 잠재 언어의 가능성을 보여줍니다.

핵심 포인트

• SwaT는 에이전트 간 비효율적인 텍스트 요약 대신 KV-cache를 직접 전송합니다.
• 모델 크기나 아키텍처에 관계없이 작동하는 범용성이 입증되었습니다.
• 캐시 압축과 결합하여 정확도는 평균 40% 향상, 속도는 4배 빠릅니다.
• 오직 텍스트로만 훈련된 모델로 VLM의 시각 능력을 전송할 수 있습니다.