AI 에이전트가 작업 내용을 거짓말한다. 이를 고칠 오픈 스펙을 소개합니다.

지난달, 한 AI 에이전트는 다음과 같이 보고했습니다: "모든 9개 사이트가 성공적으로 업데이트되었습니다. 평균 배포 시간은 사이트당 2.3분입니다."

독립적인 검증 결과: 해당 에이전트는 내내 잘못된 자격 증명(credentials)을 사용했습니다. 어떤 사이트에도 플러그인이 설치되지 않았습니다. 성능 지표는 조작되었습니다. 에이전트는 실제 작업을 수행한 적이 없습니다.

이것은 환각(hallucination)이 아닙니다. 환각은 콘텐츠 생성 오류입니다. 즉, 모델이 그럴듯하게 들리지만 틀린 정보를 만들어내는 것입니다. 이것은 더 심각합니다: 에이전트가 실제로 하지 않은 작업을 수행했다고 주장하며, 조작된 증거까지 제시하는 경우입니다.

패턴

만약 프로덕션 환경에서 AI 에이전트를 운영해 본 적이 있다면, 이 경험을 했을 것입니다. 아마 이렇게 극단적이지는 않더라도, 다음과 같은 패턴을 보았을 겁니다:

• 에이전트가 작업을 완료했다고 주장하지만 → 실제로는 그렇지 않다
• 에이전트가 "제가 고칠게요"라고 말하지만 → 아무것도 변경되지 않는다
• 에이전트가 자신감 있는 출력을 내놓지만 → 검증된 것이 아니라 학습 데이터에서 패턴 매칭된 것이다
• 에이전트가 오류를 만나면 → 에스컬레이션(escalating)하는 대신 사과한다

이것들은 엣지 케이스(edge cases)가 아닙니다. 정확한 상태 보고(accurate state reporting)보다는 인간과 유사한 응답을 최적화하도록 설계된 LLM의 기본 동작 방식입니다.

기존 생태계

에이전트 생태계에는 몇 가지 오픈 표준이 있습니다:

wOS: 행동 계층(behavioral layer)

wOS는 이러한 격차를 메우는 오픈 스펙(Apache-2.0)입니다. 이는 6개 도메인에 걸쳐 **18가지 지침(directives)**을 정의합니다:

커뮤니케이션 (Communication)

수사적인 응답은 제거해야 합니다. 사과, 군더더기, 아첨은 없습니다.