인간이 10년 전에 작성한 코드에, 사양과 맞지 않는 버그가 남아있다고 가정해 봅시다. 당시 담당자라면 '이것은 버그다'라고 알겠지만, 코드를 읽는 AI에게는 그렇지 않습니다.
이런 상태에서 AI에게 기능 추가를 요청하고 여러 번 누적시키면 코드는 어떻게 될까요? 본 기사는 이 질문에 대해 엔지니어와 매니저 양쪽의 관점에서 답합니다.
AI로 인한 기술 부채(Technical Debt)는 '이해 부채(Understanding Debt)'라는 용어와 함께 활발하게 논의되고 있습니다. 반면, '기존 버그를 AI가 사양으로 굳혀가는' 각도의 논의는 일본어권에서는 아직 많지 않습니다.
사양이 주어지지 않으면, AI는 '현재 작동하는 코드 = 올바른 동작(Correct Behavior)'이라고 추론합니다. 그 이유는 오직 코드를 통해서만 정확성의 기준을 가지고 있기 때문입니다.
- 의도와 우연을 구별할 수 없음: '일부러 그렇게 만든 것'인지 '우연히 그렇게 된 것'인지를 코드만으로는 판단할 수 없습니다.
- 기존 패턴과의 일관성을 우선시함: AI는 주변 코드와 모순되지 않도록 작성합니다. 이는 보통 미덕이지만, 주변이 잘못되었다면 그 오류에 맞춰버립니다.
- 암묵지(Tacit Knowledge)는 코드에 없다: '이 계산은 원래 세금 포함이어야 한다' 같은 지식은 당시 담당자의 머릿속에만 존재합니다.
버그는 한 번에 심각해지는 것이 아니라, 기능 추가를 할 때마다 의존성이 하나씩 늘어납니다.
- 버그를 전제로 하는 구현이 증가함: 신규 기능이 잘못된 값이나 동작에 맞춰 만들어지고, 의존하는 대상이 늘어납니다.
- 테스트가 버그를 고정시킴: AI가 작성하는 테스트는 현행 동작을 기대값으로 삼기 쉬워져서, 버그가 '정답'처럼 각인됩니다.
- 임시방편(Workaround)이 흩어짐: 이상함을 느낄 때마다 근본 원인이 아니라 그 자리에서 임시로 보정하는 코드가 추가됩니다.
- 일부만 고쳐진 불일치: 어떤 기능에서는 정확하고, 다른 기능에서는 버그가 그대로인 이중 기준이 생깁니다.
- 고치면 망가지는 상태: 버그가 구조를 지탱하는 기둥이 되어버려, 본래 사양으로 되돌리려면 대규모 개정이 필요하게 됩니다.
단계 5는 'Hyrum의 법칙(Hyrum's Law)'과 같은 상태입니다. Google 엔지니어인 Hyrum Wright에 의해 제기된 이 법칙을 번역하면 다음과 같습니다.
이용자가 충분히 많아지면, 사양으로 무엇을 약속했는지는 더 이상 제동 장치가 되지 못한다 (필자 보충: 사양서에 적힌 것보다 실제 동작이 '진짜 사양'이 된다). 시스템의 어떤 동작에도, 그것에 의존하는 '누군가'가 반드시 어딘가에 존재한다.
(원문: hyrumslaw.com. 번역 및 보충은 필자의 해석임)
그렇다면 그 '의존하는 누군가'는 누구일까요? 외부 이용자만이 아닙니다. 당신이 지시를 내리는 AI야말로, 바로 그 '누군가'입니다.
AI는 기능 추가를 할 때마다 기존 동작을 전제로 한 코드와 테스트를 작성하며, 의존하는 '누군가'를 한 명씩 늘려갑니다. 인간 이용자가 늘어날 때까지 기다릴 필요도 없이, Hyrum의 법칙은 AI에 의해 가속화됩니다.
GitClear와 GitKraken이 2023년부터 2026년까지 약 6억 2,300만 건의 코드 변경을 분석한 결과, AI 시대에는 기존 코드를 고치지 않고 새로 만드는 경향이 강해지고 있습니다. 이는 '버그를 전제로 위에 쌓아 올리는' 구조와 일치합니다.
| 지표 (2023년 대비) | 변화 | 본 기사의 단계와의 관계 |
|---|
| 레거시 리팩토링 (12개월 이상 건드리지 않은 코드 수정) | −74% | 오래된 버그가 고쳐지지 않고 남음 |
| ... | | |
GitClear의 CEO는 AI가 '결함으로 취급되지 않는 코드'를 강하게 선호한다고 지적합니다. 다만 이 조사는 시기나 팀 구성 등 다른 요인을 분리하지 않았으므로, AI만 원인이라고 단정할 수는 없습니다.
지금까지 소스 코드를 작성해 온 사람이라면, 위 4가지가 얼마나 위험한지 감으로 느낄 것입니다.
단계 2(테스트가 버그를 고정시킴)는 2026년 10월에 연구된 SpecGuardBench에서 직접 측정되었습니다. 4개의 코딩 에이전트에게 사양과 참조 구현을 주고 검증 코드를 작성하게 했을 때, 사양에 충실한 검증을 만든 것은 최고로도 63%의 작업이었습니다.
참조 구현에 사양 위반을 심었더니, 어떤 에이전트도 충실도가 19~31포인트 하락했습니다. 에이전트는 사양보다 보여진 구현에 맞춰 검증을 작성하는 경향을 보입니다.
기존 버그를 포함한 코드를 보완시킨 다른 연구에서는 GPT-4o가 82.61%의 확률로 그 버그를 재현했습니다.
인간 리뷰도 안전망이 되기 어렵습니다. 2026년 MSR에서 발표된 도쿄과학대학 등의 연구에 따르면, AI 에이전트의 풀 리퀘스트(Pull Request)는 인간보다 장황했지만, 리뷰어의 반응은 인간의 변경 사항보다 중립적이거나 호의적이었습니다. 부채는 '조용히' 쌓입니다.
AI의 출력 품질은 '무엇이 올바른지'를 판단할 수 있는 자료의 질에 의해 상한선이 결정됩니다. 사양서가 없더라도, 올바른 동작의 단서는 분산되어 남아 있습니다.
| 컨텍스트 | AI에게 제공할 것 |
|---|
| 수용 조건 및 사용자 스토리 | 누가 무엇을 위해 어떻게 작동하기를 원하는지 |
| ... | |
| 제공하는 것만으로는 절반에 불과합니다. 다음 운영 계획까지 세트로 묶어야 합니다. | |
불일치 보고를 명시적으로 요구한다 : '사양(Specification)과 코드가 다른 부분은 구현 전에 보고하라'고 지침이나 프로젝트의 규칙 파일에 작성합니다. -
현재 상태 기록과 사양을 분리한다 : 기존 동작을 테스트화할 때는 '현재 기록이며 의도된 사양이 아니다'라는 레이블을 붙입니다. -
착수 전에 재고 조사(棚卸し)를 한다 : 사양이 남아있지 않은 영역에 대해서는 AI와 함께 '이 동작은 의도한 대로인가?'를 파악하고, 결정된 내용을 문서화합니다. -
오류 포획(Error Catching)을 리뷰에서 확인한다 : catch나 안전 탐색(safe navigation) 코드가 늘어났다면, 그 깊숙한 곳에 숨겨진 버그가 있는지 의심해봅니다.
과거의 소스 코드 수정에는 '특성 테스트(Characterization Test)'라는 정석적인 방법이 있습니다. Michael Feathers가 저서 『Working Effectively with Legacy Code』에서 명명했으며, 일본어판 『레거시 코드 개선 가이드』(쇼에이샤, 2009년)에서는 '사양화 테스트'로 번역되었습니다. '특성 테스트', '특성 평가 테스트' 등으로 쓰이기도 하며, 영어로는 Golden Master Testing이라고도 불립니다.
방법은 간단합니다. 기존 코드에 입력을 주고 실제 출력을 관찰한 뒤, 그 결과를 기대값으로 설정하여 테스트에 고정하는 것입니다. 예를 들어 배송비를 계산하는 함수가 잘못된 인수에 대해 예외를 반환하는 것이 아니라 '–1엔'을 반환한다고 가정해 봅시다. 특성 테스트에서는 그것이 마땅히 있어야 할 모습인지 여부를 묻지 않고, 그냥 '–1엔을 반환한다'는 것을 그대로 기록합니다. 사양이 명확하지 않아도 작성할 수 있다는 점이 강점이며, 이 테스트는 '변경으로 동작이 달라진 것'을 알려주는 감지기 역할을 합니다.
이 방법이 AI 시대에 효과적임을 보여주는 일본어 경험담이 있습니다. 테스트가 없던 10년 된 주문 처리 시스템을 AI에게 '깨끗하게 해달라'고 요청했더니, 반올림 처리가 바뀌면서 청구 금액이 1엔씩 어긋났고, 아무도 알아차리지 못한 채 3일이 지나버렸다는 사례입니다. 필자는 그 이후로 현재 동작을 먼저 특성 테스트로 고정시킨 다음, 조금씩 대체하는 방식으로 전환했습니다.
언뜻 보면 본 기사의 주장과 반대되는 것처럼 보이지만 모순되지는 않습니다. 위의 사례는 AI가 '올바른 동작을 망가뜨릴' 위험이고, 본 기사는 AI가 '버그를 정답으로 착각할' 위험이며, 이는 같은 동전의 양면입니다. 특성 테스트는 전자를 막아주는 도구일 뿐, 옳음의 기준이 아닙니다. '현재 기록(現状記録)'이라고 레이블을 붙여 사양 테스트와 분리해 둔다면, 두 가지 위험 모두에 대비할 수 있습니다.
AI로 기능 추가가 빨라지더라도, 그만큼 버그에 대한 의존도가 빠르게 쌓일 가능성이 있습니다. 논의해야 할 것은 도구 도입보다 '옳음의 기준'에 대한 투자입니다.
사양 가시화를 백로그에 포함시킨다 : 레거시 영역의 재고 조사나 수용 조건 정비를 기능 추가와 같은 무게의 작업으로 취급합니다. -
'완료의 정의(Definition of Done)'를 업데이트한다 : AI가 보고한 사양과의 불일치가 해소되었음을 완료 조건에 포함시킵니다. -
도메인 판단을 인간에게 남긴다 : '이 동작은 올바른가?'를 결정할 권한과 시간을 제품 책임자(Product Owner)나 도메인 담당자에게 확보합니다. -
속도 외의 지표도 본다 : 중복, 기존 코드 수정률, 출시 후 장애율 등을 함께 추적합니다.
대기업들도 같은 과제에 직면해 있습니다. Amazon은 2026년 3월, AI가 관련된 변경을 포함한 심각한 인시던트가 계속되자, 주니어와 미드 레벨이 참여하는 AI 지원 본 변경 작업에 시니어의 승인을 필수화하는 90일간의 규칙을 도입했습니다. 다만 Amazon은 공식적으로 원인이 사람의 실수나 권한 설정이며, AI의 실수가 인간보다 많다는 증거는 없다고 설명하고 있습니다.
병목 지점(Bottleneck)도 이동하고 있습니다. GitLab의 2026년 6월 조사에 따르면, 응답자의 79%가 개인 생산성은 향상되었지만 개발 전체 속도는 같은 페이스로 가속되지 않았다고 답했으며, 85%가 병목 지점이 코드 작성에서 리뷰와 검증으로 옮겨갔다고 답했습니다. '옳음의 기준'에 대한 투자는 이 병목 지점에 대한 투자이기도 합니다.
AI는 '주어진 것을 정답으로 간주합니다'. 코드를만 주면, 버그도 정답으로 키워버립니다.
올바른 동작의 컨텍스트를 제공하고, 불일치를 보고하게 하며, 도메인 판단을 인간이 갖습니다. 이 세 가지가 있어야 비로소 AI의 속도가 자산이 됩니다.
그리고 마지막으로, 하우스키핑(Housekeeping)을 습관화합니다. 버그를 발견하면 그 자리에서 기록하고, 의존성이 적을 때 고칩니다. 방치할수록 AI의 기능 추가는 의존성을 쌓아 올리고, 수정 비용은 증가합니다.
AI가 새로운 코드를 빠르게 작성하는 시대일수록, 팀 차원에서 오래된 코드를 정비하는 시간을 확보하고 싶습니다.