작년의 개발자는 AI 코딩 에이전트 (AI Coding Agent)의 QA였습니다. 수동으로 버그를 찾고, 수동으로 에이전트에게 수정을 요청했죠.
올해는 에이전트가 스스로 테스트하고 스스로 수정할 수 있게 되었습니다.
Andrew Ng (앤드류 응) 선생님은 이를 "순환 공학 (Loop Engineering)"이라고 부릅니다.
하지만 제가 생각하기에 정말 말할 가치가 있는 것은 이 순환 공학 그 자체는 아닙니다.

지난 주말, 그는 딸을 위해 타이핑 연습 앱을 하나 만들었는데, 코딩 에이전트가 한 시간 동안 스스로 실행하며 브라우저를 통해 자신이 작성한 것을 반복해서 점검했습니다.
그의 개입은 전혀 필요하지 않았습니다.

그가 해야 할 일은 코드를 검사하는 것이 아니라, 의사결정(Decision-making)입니다. 예를 들어 시각적 디자인을 어떻게 조정할지, 고양이 스킨을 몇 개 추가할지, 부모님 로그인 프로세스를 어떻게 변경할지 같은 것들 말이죠.

이전에는 이런 일들이 "나중에 여유 있을 때 최적화하기" 목록에 숨겨져 있었지만, 이제 에이전트가 코드 계층(Code layer)의 일을 처리해 버리니 의사결정 계층(Decision layer)의 일들이 모두 수면 위로 드러나게 되었습니다.

Andrew Ng은 이를 설명하기 위해 한 단어를 사용했는데, 바로 "컨텍스트 우위 (Context Advantage)"입니다.

그는 많은 사람이 루프(Loop) 안에서 인간의 가치를 "취향 (Taste)"이라고 부르지만, 그는 이 단어를 좋아하지 않는다고 말했습니다.

왜냐하면 취향은 마치 형이상학적인 것처럼 들리기 때문입니다. 인간의 진정한 강점은 취향이 아니라 컨텍스트(Context)입니다. 즉, 당신은 사용자가 누구인지, 그들이 왜 고통을 느끼는지, 어떤 기능이 그들 사이에서 폭발적으로 퍼질지를 알고 있다는 점입니다.

에이전트가 이런 것들을 모르는 이유는 모델이 충분히 강력하지 않아서가 아니라, 이러한 정보가 훈련 데이터 (Training data)에 없기 때문입니다.

순환 공학의 진정한 통찰은 바로 여기에 있습니다: 그것은 코딩을 가속화할 수는 있지만, 컨텍스트를 압축할 수는 없다는 것입니다.

인간이 에이전트가 가지지 못한 정보를 보유하고 있는 한, 인간은 루프 안에서 영원히 대체 불가능한 위치를 점하게 됩니다.

다만 그 위치가 계속해서 위로 이동하고 있을 뿐입니다. QA에서 PM으로, 검사에서 판단으로 말이죠.

제 생각에 가장 대체되기 쉬운 것은 에이전트가 스스로 테스트할 수 있는 부분의 업무이며, 결코 되돌아갈 수 없는 부분은 오직 당신만이 사용자가 무엇을 원하는지 알고 있는 그 업무의 영역입니다.
따라서 순환 공학의 진정한 의미는 AI를 더 오래 달리게 만드는 것이 아니라, 역설적으로 당신의 역량을 끊임없이 상위 단계로 밀어 올리는 것입니다.