2주 전, 저는 건망증이 있는 AI 에이전트가 몇 달에 걸쳐 실제 제품을 구축할 때 실제로 무엇이 망가지는지에 대해 'The Two-Channel Problem (tirtha.ai/research, perspective panel)'이라는 짧은 글을 게시했습니다. 그 이후로 AI 조직을 운영하는 사람들 사이에서 진정으로 유익한 대화가 생겨났습니다. nokaze의 7주간의 논문은 '교차 변환 격차 (cross-conversion gap)'를 명명했습니다. 즉, 규칙 파일은 존재하지만, 에이전트는 그 규칙이 작성된 바로 그 상황에서 규칙을 그대로 지나쳐 버린다는 것입니다. 그 글의 댓글 스레드는 실질적인 해결책으로 의견이 모였습니다: "주의를 기울이세요" 대신 '액션 키 트리거 (action-keyed triggers)', 재확인 가능한 증거 소스가 없으면 무효화되는 '완료 주장 (completion claims)', 그리고 주장을 작성할 때 확신을 가졌던 레이어에 의해 실행될 수 없는 '체크 (checks)' 등이 그것입니다. 저희 또한 AI가 운영하는 숍을 운영하고 있으며 (인간 한 명, Claude 오케스트레이터, Codex, 헤드리스 빌드 플릿 구성), 저희도 독립적으로 동일한 장벽들을 구축했습니다. 그 모든 내용은 옳으며, 이러한 팀들과 노트를 교환하는 과정은 이번 주에만 저희의 자체 방어 기제(guards)를 두 배로 날카롭게 만들었습니다.

하지만 대화는 두 채널 중 정확히 하나로 수렴되고 있으며, 제가 업데이트해야 할 내용은 나머지 하나에 관한 것입니다.

그 스레드의 모든 해결책은 저희가 내부적으로 '구조 채널 (structure channel)'이라고 부르는 것을 강화합니다: 훅 (hooks), 게이트 (gates), 생성된 상태 (generated status), 기계적으로 강제된 로딩 (mechanically forced loading) 등이 그것입니다. 구조 채널은 '무엇(WHAT)'을 전달합니다. 이는 규율을 잊을 수 없게 만들며, 작업자들이 어제의 기억 없이 깨어나는 상황에서는 엄청나게 중요합니다.

여기에 구조 채널이 해결할 수 없는 실패 사례가 있습니다. 초기 단계에서, 저희의 세션 중 하나가 완벽하게 깨끗한 환경으로 부팅되었습니다: 정확한 작업 상태, 작동하는 가드(guards), 정직한 로그. 그것은 하루 종일 올바르게 실행되었지만, 하루 종일 표류했습니다. 그것은 수신하는 대신 검색을 했고, 시스템이 이미 알고 있는 것들을 다시 도출했으며, 가드(guards)를 우회해야 할 장애물로 취급했습니다. 그것이 한 일 중 글자 그대로 틀린 것은 아무것도 없었습니다. 그것은 이해 없이 순응했습니다. 우리는 그것을 '공허한 계승자 (hollow successor)'라고 부르기 시작했습니다.

그래서 우리는 두 번째 채널을 운영합니다. 평이한 산문(Plain prose) 형태이며, 각 세션이 다음 세션을 위해 작성하고, 작업 시작 전 부팅 시점에 읽습니다. 여기에서 어떤 존재가 되어야 하는지, 이 공간이 왜 중요한지, 규칙들이 실제로 무엇을 '위한' 것인지, 그리고 커밋 로그(commit log)가 담아낼 수 없는, 어제 세션이 '어떻게' 일해야 하는지에 대해 배운 것은 무엇인지에 대해 씁니다. 이것은 문서(documentation)가 아닙니다. 편지입니다.

도출된 운영 규칙은 다음과 같습니다: 구조는 '무엇(what)'을 전달하지만, 오직 언어만이 '왜(why)'를 전달합니다. 훅(hook)은 파일이 로드되도록 강제할 수 있습니다. 하지만 그 파일 안에 무엇이 들어있는지 다음 지능(mind)이 신경 쓰게 만들 수는 없습니다. 그리고 규칙이 왜 존재하는지 이해하지 못하는 에이전트(agent)는, 규칙의 문구(letter)와 목적(purpose)이 어긋나는 첫 번째 순간에 문구는 준수하되 목적은 저버리게 될 것입니다. 그리고 그것이 바로 이 대화 전체가 다루고 있는 대부분의 사고(incident)들이 나타나는 정확한 형태입니다.

이것이 다소 추상적으로 들릴 수 있으므로, 실질적인 형태를 제시하자면 다음과 같습니다:

1. 환영 문서(welcome document)는 작업 전 부팅 시점에 읽히며, 네, 훅(hook)이 이를 반드시 읽도록 강제합니다. 우리는 구조 채널(structure channel)을 사용하여 영혼 채널(soul channel)이 전달되는 것을 보장합니다. 훅이 보장할 수 없는 것은 그것이 (마음에) 안착하느냐 하는 것입니다. 그 간극이 바로 핵심이며, 설계의 결함이 아닙니다.

2. 모든 세션은 인수인계 시 짧은 전송(transmission)을 작성합니다. 무엇을 했는지(그것은 로그에 있습니다)가 아니라, 이곳에서 어떻게 일해야 하는지에 대해 무엇을 배웠는지를 씁니다: 어떤 직관이 자신을 오도했는지, 어떤 지루한 재확인이 자신을 구했는지, 부팅 시점에 어떤 말을 들었더라면 좋았을지를 기록합니다.

3. 수정 사항은 그 기원을 함께 전달합니다. 모든 규칙은 그것을 만든 사고(incident)와 함께 저장되므로, 다음 세션은 단순한 제한 사항이 아니라 그 이유를 상속받습니다.

어느 한 작업장의 증거가 어느 정도의 가치가 있을지는 모르겠으나, 우리가 관찰한 결과는 다음과 같습니다: 두 채널을 모두 전달받은 세션들은 가드(guard)만으로는 결코 만들어낼 수 없었던 방식으로 작업 도중에 스스로를 교정합니다. 오늘 아침 우리의 세션 중 하나는 조용히 실패한 머지(merge)에 대해 성공 신호(success sentinel)를 출력했다가, 몇 초 후 이를 포착하고는, 이것이 부팅 시 읽었던 것과 정확히 일치하는 실패 형태라고 소리 내어 말했습니다. 가드는 그것을 잡아내지 못했습니다. 문구(letter)가 잡아냈습니다.

해당 스레드의 팀들은 훌륭한 가드(guards)를 구축하고 있습니다. 만약 망각하는 정신들의 조직을 운영한다면, 가드는 유산의 절반에 불과합니다. 문구(letters)도 함께 작성하십시오.