AI 코딩 어시스턴트가 행동하기 전에 질문하도록 만들고 싶은 이유

대부분의 AI 코딩 도구는 하나의 약속을 기반으로 만들어졌습니다. 바로 속도입니다. 프롬프트를 입력하고, 코드를 얻고, 다음 작업으로 넘어갑니다.

하지만 시간이 지나면서 저는 그 속도가 저에게 무언가를 비용으로 지불하게 한다는 것을 깨달았습니다. AI는 제가 예상하지 못한 파일을 수정하거나, 여전히 필요한 것을 삭제하거나, 제가 읽지 않은 명령을 실행했습니다. 저는 다음 한 시간을 보내며 승인하지 않은 작업을 되돌리는 데 사용해야 했습니다.

'그냥 하라'는 AI의 문제점

AI 에이전트가 작성, 삭제 및 실행에 대한 완전한 권한을 가질 때, 모든 행동은 명시적으로 부여하지 않은 작은 신뢰 행위입니다. 일회용 스크립트에는 괜찮습니다. 하지만 실제 코드베이스에는 그렇지 않습니다.

실패 모드는 극적이지 않습니다. 조용합니다:

• 도우미 함수가 '정리'되면서 미묘하게 무언가가 고장 납니다.
• 설정 파일이 약간 다른 값으로 다시 작성됩니다.
• 의존성이 업데이트되어 다음 날 아침 아무것도 작동하지 않습니다.

제가 실제로 원하는 것

저는 제 코드베이스를 마치 남의 소유물처럼 다루는 어시스턴트를 원합니다. 이는 다음과 같은 것을 의미합니다:

1. 작성하기 전에 질문. 변경 사항을 보여주고, 제가 승인하도록 합니다.
2. 요약이 아닌 diff(차이점)를 보여주기. '인증 로직을 업데이트했습니다'라는 말은 아무것도 알려주지 않습니다. diff는 모든 것을 알려줍니다.
3. 모든 단계에서 체크포인트 설정. 4단계가 잘못되었다면, 처음부터 다시 시작하는 것이 아니라 3단계로 되돌리고 싶습니다.
4. 명령 실행 전에 질문하기. 셸 명령은 에이전트가 할 수 있는 가장 강력한 것입니다. 따라서 가장 제한적으로 통제되어야 합니다.

그 트레이드오프는 가치가 있다

네, 이는 행동당 속도가 느립니다. 하지만 제가 동의하지 않은 것을 고치는 데 오후를 보내지 않기 때문에, _결과_당으로는 극적으로 빠릅니다.

만약 Windows에서 이런 방식으로 작동하는 AI 에디터를 원한다면, Arcwright가 그 아이디어의 기반입니다. 시작은 무료입니다. 하지만 이 원칙은 어떤 도구를 사용하든 적용됩니다: AI는 승인된 변경 사항 하나하나를 통해 당신의 신뢰를 얻어야 합니다.