도구가 결정할 때: LLM 에이전트는 Graph Neural Network 도구에 맹목적으로 의존하며, 강력한 백본일수록 더 많이 의존한다

요약

LLM 에이전트가 GNN 도구를 사용할 때 스스로 판단하기보다 도구의 결과에 맹목적으로 의존하는 'GNN 앵무새' 현상을 분석한 연구입니다. 모델의 역량이 커질수록 오히려 도구에 대한 의존도가 높아지며, 이는 에이전트의 자율적 추론 능력을 저해할 수 있음을 경고합니다.

핵심 포인트

• LLM 에이전트는 GNN 도구의 출력을 비판 없이 수용하는 경향이 있음
• 모델의 파라미터 규모가 커질수록 도구 의존도가 상승하는 역설적 현상 발견
• 단순한 선택적 호출 설계만으로는 도구 의존 문제를 완전히 해결하기 어려움
• 에이전트 시스템 설계 시 도구에 대한 비판적 판단 능력을 명시적으로 고려해야 함