"AI와 200만 줄의 코드를 작성하며 깨달은 것들"

25년 경력의 CTO.. AI와 단둘이 200만 줄 이상의 코드를 작성했지만, 만들어진 결과물 중 운영 검증을 통과한 것은 단 하나도 없었음.

인터페이스는 멀쩡하고 컴파일도 되지만, 런타임에 아무 일도 일어나지 않는 에이전트 시어터 현상이 반복됨.

원인은 AI에게 '무엇을(what)'과 '어떻게(how)'만 줬을 뿐, '왜(why)'를 주지 않았기 때문.

'왜'가 없으면 AI는 완성도의 실제가 아니라 완성도의 겉모습을 향해 달림.

데모는 되지만 프로덕션에서는 무너지는 코드가 양산됨.

가트너도 2027년까지 에이전트 AI 프로젝트 40% 이상이 폐기될 것으로 예측했으며, 원인은 모델의 무능이 아니라 사람의 잘못된 결정.

환각을 잡으려고 규칙을 늘리면, 환각과 창의성이 동시에 사라짐.. 둘은 같은 생성 메커니즘의 양면이기 때문.

돌파구는 규칙 대신 '왜'를 담은 판단 기준 문서를 AI 컨텍스트에 상시 물려두는 것.

같은 모델, 같은 코드베이스에서 컨텍스트만 바꿨을 뿐인데 결과물 품질이 확연히 달라짐. 더 좋은 모델이 아니라 더 좋은 맥락이 필요함.

규칙은 "이렇게 해라"라는 드레스 코드이고, '왜'는 "네 판단의 기준은 이것이다"라는 안목.

CHP.. Creative-Hallucination-Principles

창의성-환각-원칙의 균형은 영역마다 다르게 맞춰야 함. 프론트엔드는 창의성 쪽으로, 인프라/프로토콜은 원칙 쪽으로.

AI가 똑똑해질수록 이 다이얼을 맞추는 판단 노동은 줄지 않고 오히려 늘어남.

AI는 주어진 맥락을 거울처럼 비추기 때문에, 명확한 '왜'를 주면 명확함이, 모호함을 주면 모호함이 증폭됨.

자, 결론! AI 도입 전에 "이것을 왜 만드는가, 이 결정이 왜 옳은가, 이 실패가 왜 용납될 수 없는가"에 먼저 답할 수 있어야 한다.

좋은 글 읽었습니다. 🙏🏻
https://t.co/BN17zoq9iV