거대언어 모델(LLM)을 에이전트 작업에 맞게 훈련하는 것은 높은 컴퓨팅 자원 소모와 긴 반복 주기 때문에

요약

거대 언어 모델(LLM)을 에이전트 작업에 맞게 미세 조정하는 것은 높은 컴퓨팅 비용과 긴 반복 주기 때문에 비효율적입니다. 본 논문은 이러한 문제를 해결하기 위해 '보충 자료 생성 훈련 (Supplement Generation Training, SGT)'이라는 효율적인 방법을 제안합니다. SGT는 작은 LLM을 사용하여 원래 입력에 추가할 유용한 보충 텍스트를 생성하도록 훈련합니다. 이 보충 자료가 큰 모델의 성능을 향상시키며, 근본적인 대형 모델 자체를 수정하지 않고도 작업 요구사항에 맞춰 동적으로 적응할 수 있습니다. 이 접근

핵심 포인트

• SGT는 거대 LLM을 직접 미세 조정하는 대신, 작은 보조 모델로 효율성을 높입니다.
• 작은 모델이 생성한 보충 텍스트가 큰 LLM의 작업 수행 능력을 향상시킵니다.
• 이 방법은 대형 모델과 작업별 최적화를 분리하여 비용 효율적인 배포를 가능하게 합니다.