AI가 마취시키는 건 한 사람이 아니라 조직 전체다: 항공·의료가 먼저 겪은 자동화의 아이러니

AI를 잘 다루는 능력과 그 출력을 검증하는 능력은 다른 축이며, 한쪽이 오르는

동안 다른 쪽이 조용히 깎임. 이 글은 그 깎임이 개인이 아니라 조직 단위로

번지는 메커니즘과, 리더가 구조로 대응하는 법을 다룸

• AI는 저수준 노동을 숨기는 추상화가 아니라, 그 자리에 앉는 확률적 대리인임. React·ORM 같은 기존 추상화는 필요하면 사다리를 타고 내려가 인과를 확인할 수 있었지만, AI 위에는 내려갈 사다리 자체가 없음
• 핵심 개념은 인지적 점유권으로, "이 코드가 왜 이렇게 작성되어야만 했는지 논리적 궤적을 처음부터 끝까지 설명할 수 있는 상태"를 뜻함. 코드가 누구의 손을 거쳤는가가 아니라 그 인과가 누구의 머릿속에 있는가의 문제
• AI는 실력이 아니라 그럴싸함을 평준화함. 코드 품질 분포의 최저점이 올라갔을 뿐 실력이 오른 게 아니며, 모델이 좋아질수록 인과가 비어있다는 사실이 더 안 보이게 됨
• 생성 비용은 0에 수렴하지만 검증 비용은 그대로임. 1초에 나온 코드를 1시간 검증하는 사람이 조직 지표상 가장 느린 사람이 되는 경제적 압력 때문에, 비판적 수용은 의지만으로 버티지 못함
• 항공·신경과학·의료가 먼저 통과한 선례를 인용함. 자동화의 아이러니(Bainbridge, 1983), 에어프랑스 447편, GPS 의존자의 해마 위축, 유방촬영 CAD의 민감도 감소
• 처방은 개인의 결심이 아니라 팀의 구조여야 함. 점유권의 비효율을 "도덕"이 아니라 "보험료"로 회계 처리할 것을 제안함

상세 요약

AI는 추상화가 아니라 대리인이다

• 기존 도구는 결정론적(같은 입력이면 같은 출력)이라 인과 추적이 가능했음. AI는 확률적 대리인이라 같은 요청에도 매번 다른 결과가 나오고, 코드는 읽을 수 있어도 "왜 그렇게 짜였는지"에 도달할 길이 없음
• 직접 짠 코드는 인과가 머릿속에 남지만, AI가 짠 코드는 결과만 있고 인과는 머리를 거치지 않음. 모르는 언어의 계약서에 매번 서명하는 것에 비유함

그럴싸함의 평준화

• 면접관, PR 리뷰어로서의 일선 관찰. 변수명도 깔끔하고 구조도 그럴싸하지만, 들춰보면 중복 함수·책임 분리 불명확·사이드 이펙트 덩어리임
• 가장 정직한 증거는 "여기는 왜 이렇게 하셨어요?"라는 질문에 답이 막히는 순간임. 겉모습만 멀쩡하고 인과가 빠진 코드의 직접적 신호

마취는 조직 단위로 번진다

• 과거엔 작성자와 리뷰어의 두 겹 점유권으로 인과가 분산 보관됐으나, 작성도 AI, 검토도 AI가 되면 PR의 인과가 팀 어느 머릿속에도 없는 상태가 됨
• "AI 리뷰 봇이 요약하면 사람이 훑고 LGTM"은 검증처럼 보일 뿐 또 하나의 인과 없는 산출물임. "내가 만든 코드는 내가 운영한다"는 원칙이 붕괴함

취향은 고장 속에서만 자란다

• "구현은 AI, 사람은 취향(taste)만"이라는 담론에 대한 반박임. 취향은 좋은 코드를 많이 읽어서가 아니라 내가 짠 것이 깨지고 그 자리에서 인과를 더듬은 경험에서 자람
• 하이데거의 망치 비유(고장 났을 때 비로소 도구의 본질이 드러남)와 아리스토텔레스의 실천적 지혜를 인용함. AI는 고장이 아니라 "고장을 겪는 경험"을 없애 취향이 자랄 대장간을 닫음

도제가 끊긴 자리

• 앞선 추상화들은 인과를 "숨겼을 뿐" 없애지 않아 사다리가 남아 있었지만, AI 위에서는 그 사다리가 저절로 깔리지 않음. 역량이 자라느냐는 개인 의지가 아니라 그가 놓인 구조가 결정함
• 그 사다리를 팀 안에 인위적으로라도 다시 놓을지 정하는 사람이 리더임

처방은 팀의 구조여야 한다

• "인과를 설명하지 못하는 코드는 머지하지 않는다"를 리뷰 규칙으로 박기, LGTM을 "이 코드를 내가 설명할 수 있다"는 인수 선언으로 의미 전환하기, 무작위 스팟

체크 도입하기

• 설계를 사람이 쥐고 AI에게 넘기는 법(제약·엣지 케이스까지 명세화)을 팀 역량으로 개발하기
• 절대 놓지 않을 거점(코어 도메인) 선정하기, 비효율을 의도적 학습 경로로 전환하기, 속도뿐 아니라 점유권도 측정하되 굿하트의 법칙을 경계해 KPI가 아닌 계기판으로만 두기

리더의 위기: 검증하지 못하는 승인자는 결국 나일 수 있다

• 두 겹의 받침대가 빠지면 리더의 녹슬음이 개인 문제가 아니라 조직의 기본값이 됨. 리더가 지켜야 할 것은 전수 검증이 아니라 팀이 적어낸 인과가 진짜인지 가려내는 감별력임
• 마취 여부는 통제할 수 없어도 마취가 도는 속도는 통제 가능함. 목표는 "조금 더 오래 분간할 수 있는 조직으로 남기는 것"임