에이전트 엔지니어링은 유능하지만 불균일한 모델을 실제 제약 조건(복잡한 입력, 긴 시간 범위, 완벽하지 않은 도구, 제한된 예산) 하에서 신뢰할 수 있는 작업 완료자로 변환하는 시스템 설계입니다.

에이전트 엔지니어링은 주로 다음 요소들을 사용합니다:

• 상태 및 컨텍스트 전략: 에이전트가 기억하고, 검색하고, 잊는 컨텍스트와 상태.
• 계약(Contracts): 스키마, 예상 입력/출력, 시간 초과(timeouts), 재시도(retries).
• 검증(Verification): 특정 단계가 제대로 작동하는지 확인합니다.
• 예산 및 중단 조건: 턴 수, 토큰 수, 시간에 대한 엄격한 제한.
• 권한 및 위험 등급: 파괴적인 동작에 대한 읽기 전용 권한 부여와 후자의 게이팅(gating).

왜 에이전트 엔지니어링이 존재하는가
LLM은 코딩 문제를 해결하는 데는 탁월하지만, 'strawberry'라는 단어에서 알파벳 'r'의 개수를 세는 것과 같은 일에는 어려움을 겪습니다. 이것이 바로 스트로베리 문제(The Strawberry Problem)의 좋은 예입니다. LLM은 정답을 모를 때 거짓 정보를 제공하는 환각(hallucinates) 현상을 보입니다.

에이전트 엔지니어링의 궤적
그 궤적은 더 많은 에이전트가 스스로 더 많은 조정 작업을 수행하는 방향으로 나아가고 있습니다. 이 배경 기술들은 AI 에이전트들이 더욱 유능해짐에 따라 계속 발전할 것입니다. 다가오는 몇 년 동안, 우리는 에이전트 시스템이 점점 더 복잡한 작업을 처리할 것으로 예상할 수 있습니다. 인간의 개입(human involvement)이 적은 상태에서 더 많은 에이전트가 서로 대화하게 되면서, 이 '하네스'(harness)—즉 권한, 로깅, 실패 격리(failure isolation), 평가—가 그 결과물이 신뢰할 수 있는 시스템인지 아니면 값비싼 혼란인지를 결정하는 요소가 됩니다.