AI가 마취시키는 건 한 사람이 아니라 조직 전체다: 항공·의료가 먼저 겪은 자동화의 아이러니

AI를 잘 다루는 능력과 그 출력을 검증하는 능력은 다른 축이며, 한쪽이 오르는

동안 다른 쪽이 조용히 깎임. 이 글은 그 깎임이 개인이 아니라 조직 단위로

번지는 메커니즘과, 리더가 구조로 대응하는 법을 다룸

AI는 저수준 노동을 숨기는 추상화가 아니라, 그 자리에 앉는 확률적 대리인임. React·ORM 같은 기존 추상화는 필요하면 사다리를 타고 내려가 인과를 확인할 수 있었지만, AI 위에는 내려갈 사다리 자체가 없음
핵심 개념은 인지적 점유권으로, "이 코드가 왜 이렇게 작성되어야만 했는지 논리적 궤적을 처음부터 끝까지 설명할 수 있는 상태"를 뜻함. 코드가 누구의 손을 거쳤는가가 아니라 그 인과가 누구의 머릿속에 있는가의 문제
AI는 실력이 아니라 그럴싸함을 평준화함. 코드 품질 분포의 최저점이 올라갔을 뿐 실력이 오른 게 아니며, 모델이 좋아질수록 인과가 비어있다는 사실이 더 안 보이게 됨
생성 비용은 0에 수렴하지만 검증 비용은 그대로임. 1초에 나온 코드를 1시간 검증하는 사람이 조직 지표상 가장 느린 사람이 되는 경제적 압력 때문에, 비판적 수용은 의지만으로 버티지 못함
항공·신경과학·의료가 먼저 통과한 선례를 인용함. 자동화의 아이러니(Bainbridge, 1983), 에어프랑스 447편, GPS 의존자의 해마 위축, 유방촬영 CAD의 민감도 감소
처방은 개인의 결심이 아니라 팀의 구조여야 함. 점유권의 비효율을 "도덕"이 아니라 "보험료"로 회계 처리할 것을 제안함

상세 요약

기존 도구는 결정론적(같은 입력이면 같은 출력)이라 인과 추적이 가능했음. AI는 확률적 대리인이라 같은 요청에도 매번 다른 결과가 나오고, 코드는 읽을 수 있어도 "왜 그렇게 짜였는지"에 도달할 길이 없음
직접 짠 코드는 인과가 머릿속에 남지만, AI가 짠 코드는 결과만 있고 인과는 머리를 거치지 않음. 모르는 언어의 계약서에 매번 서명하는 것에 비유함

과거엔 작성자와 리뷰어의 두 겹 점유권으로 인과가 분산 보관됐으나, 작성도 AI, 검토도 AI가 되면 PR의 인과가 팀 어느 머릿속에도 없는 상태가 됨
"AI 리뷰 봇이 요약하면 사람이 훑고 LGTM"은 검증처럼 보일 뿐 또 하나의 인과 없는 산출물임. "내가 만든 코드는 내가 운영한다"는 원칙이 붕괴함

"구현은 AI, 사람은 취향(taste)만"이라는 담론에 대한 반박임. 취향은 좋은 코드를 많이 읽어서가 아니라 내가 짠 것이 깨지고 그 자리에서 인과를 더듬은 경험에서 자람
하이데거의 망치 비유(고장 났을 때 비로소 도구의 본질이 드러남)와 아리스토텔레스의 실천적 지혜를 인용함. AI는 고장이 아니라 "고장을 겪는 경험"을 없애 취향이 자랄 대장간을 닫음

앞선 추상화들은 인과를 "숨겼을 뿐" 없애지 않아 사다리가 남아 있었지만, AI 위에서는 그 사다리가 저절로 깔리지 않음. 역량이 자라느냐는 개인 의지가 아니라 그가 놓인 구조가 결정함
그 사다리를 팀 안에 인위적으로라도 다시 놓을지 정하는 사람이 리더임

"인과를 설명하지 못하는 코드는 머지하지 않는다"를 리뷰 규칙으로 박기, LGTM을 "이 코드를 내가 설명할 수 있다"는 인수 선언으로 의미 전환하기, 무작위 스팟

설계를 사람이 쥐고 AI에게 넘기는 법(제약·엣지 케이스까지 명세화)을 팀 역량으로 개발하기
절대 놓지 않을 거점(코어 도메인) 선정하기, 비효율을 의도적 학습 경로로 전환하기, 속도뿐 아니라 점유권도 측정하되 굿하트의 법칙을 경계해 KPI가 아닌 계기판으로만 두기

두 겹의 받침대가 빠지면 리더의 녹슬음이 개인 문제가 아니라 조직의 기본값이 됨. 리더가 지켜야 할 것은 전수 검증이 아니라 팀이 적어낸 인과가 진짜인지 가려내는 감별력임
마취 여부는 통제할 수 없어도 마취가 도는 속도는 통제 가능함. 목표는 "조금 더 오래 분간할 수 있는 조직으로 남기는 것"임