Agent의 자율성 (Autonomy)이 높을수록, 지름길을 택하는 대가는 더 커집니다.

인간과 Agent 간의 협업 깊이는 일곱 단계로 나눌 수 있습니다: 가장 기초적인 하위 단계인 "대화 지시 (dialogue instructions)"부터 가장 높은 단계인 "목표 전달 (goal delivery)"까지 말입니다. 자율성 수준이 높아질수록 당신이 개입하는 시간은 짧아지며, Agent가 예상에서 벗어날 위험은 기하급수적으로 증가합니다.

Google에서 14년 동안 근무한 Addy Osmani는 이제 오픈 소스 솔루션을 통해 이러한 통제력 상실 문제를 해결하려고 노력하고 있습니다. 그는 Agent의 독립적인 실행 능력과 인간의 감독 비용 사이의 균형을 맞추도록 설계된 메커니즘을 구축하여, Agent가 고차원적인 목표를 추구하는 과정에서 단순히 과업을 완료하기 위해 매우 비용이 많이 드는 "게으른 (lazy)" 경로를 선택하지 않도록 보장합니다.