TL;DR

AI에게 판단을 맡기는 것은 「굴복」인가, 아니면 단순한 레이어 (layer) 이동인가. 솔직히 말해서 아직 답은 나오지 않았다. 다만, 질문 자체를 바꿔보면 조금 편해질 것 같다는 생각이 든다.

실리콘밸리의 저명한 프로덕트 디자이너가 이렇게 경고했다. iPod나 iPhone 설계에 참여했던 인물의 말이었기에 그냥 지나칠 수 없었다. 「인지적 굴복 (cognitive surrender)」이라는 문구——내가 이 단어가 유용하다고 생각하는 이유는, AI를 일상적으로 사용하는 사람이라면 누구나 느끼는 불편함을 잘 언어화하고 있다는 점이다.

듣고 나서 솔직히 가슴이 철렁했다.

하지만 정말 그럴까. 생각하면 할수록 점점 모르겠어졌다.

문득 오토매틱 자동차(AT) 이야기가 떠올랐다.

1980년대 후반부터 1990년대에 걸쳐 일본에서도 오토매틱 자동차가 급속히 보급되었다. 클러치 조작, 기어 변속 타이밍, 엔진 브레이크 사용법——수동 자동차(MT)를 운전하기 위해 필요했던 이러한 지식들은 AT의 보급과 함께 「상식」이 아니게 되었다.

지금의 젊은 세대 중 다수는 MT를 운전하지 못한다.

이것을 「인지적 굴복」이라고 불러야 할까.

……아마, 아닐 것이다. AT 차량의 트랜스미션 제어가 충분히 신뢰할 수 있게 되었다, 적어도 그렇게 보인다. 그래서 드라이버는 그 레이어 (layer)의 지식을 가질 필요가 없어진 것이다. 인지가 사라진 것이 아니라, 인지가 움직이는 장소가 바뀐 것이 아닐까——그렇게 느끼고 있다. 해방된 주의력이 어디로 향했을지는 사람마다 다를 것이다——경로일 수도 있고, 차 안에서의 대화일 수도 있다. 어느 쪽이든 그것을 「굴복」이라고 부르지는 않는다.

계산기도 그럴지 모른다. 암산을 할 수 있는 세대에서 계산기가 당연한 세대로. 「그 세대는 계산이 빨랐다」라는 이야기는 남지만, 계산기를 사용하는 것을 굴복이라고 부르지는 않는다.

카 내비게이션도 마찬가지다. 지도를 읽는 능력은 확실히 상실되었다. 하지만 아무도 그것을 「굴복」이라고 말하지 않는다.

에도 시대의 불 피우기도 비슷한 느낌이 들었다. 과거에는 누구나 알고 있던 기술이, 지금은 캠퍼들만의 것이 되었다. 성냥이라는 「신뢰할 수 있는 인프라 (infrastructure)」가 확산됨에 따라, 지식은 단계적으로 애호가들에게 이양되었다.

공통적으로 보이는 것은, 저레이어 (low-layer)가 「신뢰할 수 있는」 상태가 되었을 때, 그곳에서 인간의 주의가 멀어지는 흐름일지도 모른다. 손실인지 아닌지는 솔직히 잘 모르겠다. 다만 그것이 「굴복」과는 조금 다른 느낌이 든다.

단, 이러한 예시들이 보여주는 것은 패턴일 뿐, AI가 동일한 역할을 수행할 수 있다는 증명은 아니다. AI도 동일한 신뢰성 테스트를 통과해야 하며, 그 테스트는 태스크 (task)마다 개별적으로 수행할 필요가 있다.

말로 잘 설명할 수는 없지만, 이렇게 생각하니 조금 정리가 되는 기분이 들었다.

AI가 등장하기 전, 신경 썼던 것은 처리 프로세스 그 자체였다. 연소 조건, 점화 타이밍——같은 저레이어 (low-layer)의 이야기.

AI 이후에는 RPM이나 연료 소비——아웃컴 (outcome)을 보게 된 것 같다.

인지의 양이 줄어든 것은 아닐지도 모른다. 보고 있는 대상이 바뀌었다는 느낌이 든다. 정말 그런지는 자신 없지만.

다만, 이것이 성립하는 것은 「게이지가 신뢰할 수 있는」 경우뿐이다. RPM과 연료 소비가 의미를 갖는 것은 그것이 신뢰할 수 있는 시그널 (signal)이기 때문이다. 대시보드가 거짓말을 하고 있다면, 레이어 (layer)의 이동은 굴복에 가까운 것이 되어버린다.

여기서 한 번 멈춰 서서 생각하고 싶은 것은, 「이동 자체가 나쁜 것인가, 타이밍이 나쁜 것인가」라는 문제다.

Vibe coding을 예로 들면. AI에게 코드를 쓰게 하여 프로토타입을 만드는 것 자체는 이제 누구나 할 수 있다. 하지만 「AI가 쓴 아키텍처 (architecture)는 신뢰할 수 있는가」라는 질문에는, 2026년인 지금, 자신 있게 「예」라고 말할 수 있는 사람은 적지 않을까.

계산기와의 차이점은 여기라고 생각한다. 계산기는 답이 맞는지 틀린지가 대략 한눈에 보인다. 하지만 AI가 쓴 코드는 작동하는 것처럼 보여도, 아키텍처 (architecture)로서 「좋은가」는 몇 년 후의 유지보수 비용이 되어봐야 알 수 있다. 그리고 계산기와 달리 AI는 틀려도 유창해 보인다——어디서 틀렸는지 알기 어렵다.

이것이 AI와 앞서 언급한 예시들의 구조적인 차이다. 계산기·GPS·오토매틱 자동차는 거의 결정론적(deterministic)이다——고장 나면 눈에 보이게 알 수 있다. AI는 확률론적(probabilistic)이며, 그럴듯한 오류를 출력할 때가 있고, 그 실패는 아무도 눈치채지 못할 정도로 유창할 때도 있다.

속도계 없는 자동차를 달리고 있는 듯한 느낌이라고 해야 할까. 너무 빠른 것인지 어떤지 스스로는 알 수 없다.

「AI에게 인지를 맡겨야 하는가」라는 질문을 계속 품고 있으면 어딘가 계속 마음이 불편하다.

질문을 바꿔 보았다.

「이 태스크 (task)의 저레이어 (low-layer)는, 지금의 AI에게 신뢰할 수 있는 인프라 (infrastructure)가 되어 있는가」

그렇게 생각하니, 훨씬 마음이 편해졌다.

나에게 있어 「충분히 신뢰할 수 있다」는 것은 대략 다음과 같은 조건들이 갖춰졌을 때를 의미한다——태스크 (task)의 경계가 명확하고, 실패가 복리로 불어나기 전에 관찰할 수 있으며, 실수가 수습 가능한 범위 내에 있고, 독립적인 검증 수단이 존재하며, 목표와 수용 기준 (acceptance criteria)은 내가 계속 쥐고 있는 상태. 엄밀한 공식은 아니지만, 위임 (delegation)하기 전에 머릿속에 두어야 할 대략적인 조건들의 집합이다.

신뢰할 수 있다면, 맡겨도 되지 않을까 하는 생각이 들기 시작했다. 신뢰할 수 없다면, 조금 더 내가 그 레이어 (layer)에 머물러야 할지도 모른다. 「지금이 그때인가」라는 질문이 「맡길 것인가」라는 질문보다 답하기가 더 쉽다.

모르겠다, 가 솔직한 심정이다.

저레이어 (low-layer) 지식	이행에 소요된 시간
불 피우기 → 성냥	약 20~30년 (도시 지역, 메이지 시대)
...
※ 이것은 엄밀한 데이터가 아니라, 대략적인 감각치다. 중요한 것은 연수의 정확함이 아니라, 모든 이행에는 「신뢰할 수 있는 인프라 (infrastructure)가 먼저 있었다」는 공통된 패턴이 있다는 점이다.

일부 저레이어 코딩 태스크는 이미 이 길을 걷기 시작했을지도 모른다——기존의 패턴을 따르며, 출력이 검증하기 쉽고, 실패 모드 (failure mode)를 읽기 쉬운 것들. 더 높은 수준의 아키텍처 (architecture)나 판단이 필요한 설계가 같은 길을 따를지는 솔직히 아직 알 수 없다. 그것들은 별개의 레이어이며, 「충분히 신뢰할 수 있다」의 기준 또한 다른 높이에 있다.

이행에 걸리는 시간은 짧아지고 있는 것처럼 보인다. 다만, 한꺼번에 일어나는 것도 아니고, 프로그래밍의 모든 영역에서 균일하게 일어나는 것도 아닐 것이다.

「인지적 굴복 (Cognitive Surrender)」이라는 단어가 여전히 머릿속을 맴돈다. 완전히 떨쳐낸 것은 아니다.

다만 한 가지만 확인하고 움직이려 한다. 위임하려는 그 저레이어가, 지금의 AI에게 「자동변속기 (transmission)」 정도의 신뢰도를 갖추고 있는가——이 태스크에서, 지금 이 시점에서.

할 수 있다면, 아마 이행해도 좋다. 할 수 없다면, 조금 더 기다리거나 속도계를 직접 설계해야 한다.

지금은 그렇게 생각하고 있다.

이 기사는 영문판 「Cognitive Surrender, or Cognitive Layer Shift?」로 동시 공개되고 있습니다. 필자는 여러 AI를 조합한 자율 워커 (autonomous worker) 시스템을 구축 및 운용하고 있으며, AI와 병행하는 실무 현장에 대해 쓰고 있습니다.