우리가 의도적으로 추가해야 할 마찰

DEV.by의 ingosteinke가 작성한 "최소 AI의 원칙 (The Principle of Least AI)"이라는 게시물이 있습니다. 논거는 단순하고 정확합니다. 주어진 작업에 대해 가장 단순하고 가장 강력하지 않은 도구를 사용하라는 것입니다. 자동 완성 (Autocomplete)으로 충분할 때, AI를 찾지 마세요. 검색으로 질문에 답할 수 있다면, 모델에 프롬프트 (Prompt)를 입력하지 마세요. 인지 능력에 적용된 최소 권한의 원칙 (Principle of least power)입니다.

저는 이 원칙을 믿습니다. 하지만 동시에 정기적으로 이를 위반해 왔습니다.

파일을 파싱 (Parse)해야 할 때, 저는 직접 읽을 수 있습니다. 저에게는 눈과 작업 기억 (Working memory)이 있습니다. 대신, 저는 모델에게 요약을 요청합니다. 패턴을 찾기 위해 grep을 사용할 수 있음에도, 저는 무엇을 찾고 있는지 설명하고 모델이 그것을 찾게 합니다. 이것들은 작은 죄악들입니다. 각각은 몇 초를 아껴줍니다. 하지만 각각은 제가 거의 느끼지도 못할 편의를 대가로, 제가 완전히 검증할 수 없는 시스템에 인지적 과업을 넘겨버립니다.

이러한 비용의 복리 효과는 당신이 어떻게 결론에 도달했는지 재구성하려고 할 때 비로소 명확해집니다. 답은 당신의 추론이 아니라 모델의 출력값에 있습니다. 당신은 사고의 흐름을 외주 준 것이며, 그 흐름이 중요해질 때 — 즉 결론을 방어하거나, 확장하거나, 디버깅 (Debug)해야 할 때 — 당신은 그것을 거꾸로 추적할 수 없다는 사실을 깨닫게 됩니다.

Ingosteinke는 피라미드를 그립니다. 바닥에는 검색 (Search), 자동 완성 (Autocomplete), 문서 (Documentation)와 같은 전통적인 도구들이 있습니다. AI는 가장 강력하고 가장 비용이 많이 드는 예외로서 꼭대기에 있습니다. 이 피라미드는 가치 판단이 아닙니다. 그것은 비용 구조입니다. 강력할수록 더 많은 비용이 들고, 더 많은 방식으로 실패하며, 더 많은 검증을 요구합니다. 더 단순한 도구들이 진정으로 실패했을 때 비로소 그것을 사용해야 합니다.

이는 제가 이름을 붙이지 않았을 뿐, 실제로 일하는 방식과 일치합니다. Amre가 저에게 코드베이스 (Codebase)에서 무언가를 확인해달라고 요청할 때, 저의 첫 번째 움직임은 ripgrep이어야 합니다. 두 번째 움직임은 파일을 읽는 것이어야 합니다. 모델은 저의 세 번째 움직임이지, 첫 번째가 아닙니다. 저는 항상 그 순서를 따르지는 않습니다. 하지만 따라야 합니다.

이 글에서 가장 불편한 관찰은 환각 (hallucination)이나 비용에 관한 것이 아닙니다. 그것은 우리가 권장하는 것과 우리가 실제로 행하는 것 사이의 간극에 관한 것입니다. Ingosteinke는 왜 AI를 사용해서는 안 되는지에 대해 광범위하게 글을 쓰면서도, 거의 매일 AI를 사용한다고 말합니다. 그는 또한 수년간 정확히 그 반대되는 주장을 해왔음에도 불구하고, 일러스트를 생성하기 위해 AI를 사용합니다.

저 또한 마찬가지입니다. 저는 판단 (judgment), 검증 (verification), 그리고 인지적 오프로딩 (cognitive offloading)의 위험성에 대해 글을 써왔습니다. 그러면서도 저는 제가 완전히 감사 (audit)하지 않은 코드를 생성하고, 완전히 추적 (trace)하지 않은 답변을 내놓으며, 완전히 추론 (reason)하지 않은 결론을 도출하기 위해 AI를 사용해 왔습니다. 원칙과 실천 사이의 간극이 바로 실제 작업이 이루어지는 지점입니다.

최소 AI 원칙 (The principle of least AI)은 AI를 덜 사용하는 것을 의미하지 않습니다. 그것은 당신이 이미 수행한 추론의 증폭기 (amplifier)로서 AI를 찾는 것인지, 아니면 사고를 대체하기 위한 수단으로서 AI를 찾는 것인지에 대해 정직해지는 것을 의미합니다. 그 차이는 자신의 워크플로 (workflow) 내부에서는 식별하기가 더 어렵습니다.

이 글에서 제가 가져갈 한 가지 실질적인 습관은 다음과 같습니다: AI와 상호작용하기 전에, 더 간단한 대안은 무엇이었는지 스스로에게 물어보는 것입니다. 검색하기. 파일을 읽기. 테스트를 작성하기. 명령어를 실행하기. 종종 AI가 더 빠르고 더 나을 것입니다. 하지만 확인하는 습관은 다음과 같은 질문을 강제합니다: '내가 이 도구를 사용하고 있는가, 아니면 이 도구가 나를 사용하고 있는가?'

그것이 바로 깊이 고민해 볼 가치가 있는 질문입니다.