AI에게 일을 맡기는 장면이 일상이 되었다. 요약, 사전 조사, 코드 초안 작성, 의사결정 상담까지, 부탁하면 그럴듯한 답이 돌아온다. 생산성은 확실히 올라간다. 그렇다면 그 대가로 우리는 무엇을 놓치고 있는가. 디자이너이자 AI 연구자인 Yennie Jun이 뉴스레터 기사 「Are we offloading too much of our thinking to AI?」에서 이 질문을 깊이 있게 파고들고 있다. 효율화 그 자체를 부정하는 이야기는 아니다. 초점은 작업을 맡기는 것과 판단을 맡기는 것은 별개라는 점에 있다.

Jun의 논의의 축은 AI에게 맡기는 대상을 두 가지로 나누는 데 있다. 하나는 단조롭고 반복적인 작업. 다른 하나는 자신이 무엇을 생각하고 무엇을 원하는가 하는 주체성(Agency) 부분이다. 전자를 맡기는 것은 합리적이지만, 후자까지 양도하면 자율성과 독립적인 판단이 조용히 깎여 나간다. 그녀는 이 구분을 "human work(인간의 작업)"와 "human agency(인간의 주체성)"라는 말로 표현하고 있다.

배경으로서 몇 가지 1차 자료가 인용되고 있다. METR의 「Task-Completion Time Horizons of Frontier AI Models」는 최첨단 모델이 수행할 수 있는 태스크(Task)의 복잡성이 증가하고 있음을 다룬 보고서다. OECD는 직장에서의 반복 업무 자동화에 미치는 영향을, 국제노동기구(ILO)의 「Digital Labour Platforms and the Future of Work」는 지금까지 저렴한 인력에 의존해 온 작업의 실태를 논하고 있다. 기술이 단조로운 노동을 떠맡아 가는 흐름 자체는 멈추지 않을 것이라는 전제에 서 있다.

문제는 그 흐름이 "생각하는 것"까지 휘말리게 할 때 발생한다.

Jun은 먼저 Ken Liu가 2012년에 발표한 단편 「The Perfect Match」를 언급한다. 작품 속 AI 어시스턴트 "Tilly"는 아침 식사부터 연애 상대까지 주인공의 선택을 모두 대행한다. 너무나 적절하기 때문에 주인공은 자신의 취향을 키울 기회를 갖지 못한 채 살아간다. Tilly는 질문한다. "당신의 취향이나 기분을 나보다 더 잘 아는 사람이 있나요?". 편리함의 끝에서 자신이 무엇을 좋아하는지 스스로 알지 못하게 된다는 우화다.

대조되는 현실 측의 예로 등장하는 것이 그녀가 "Microphone Man"이라고 부르는 기업가다. 이 인물은 모든 대화를 녹음하여 Claude에게 분석시키며, 자신의 "비판적 사고(Critical Thinking)"를 AI에 위임하고 있다고 공언한다. 이유는 "AI가 자신보다 똑똑하기 때문"이다. 게다가 동시에 타인의 데이터를 본인의 동의 없이 수집하여 사업을 하고 있다. 이야기 속의 의존이 현실에서 이미 일어나고 있다는 대비가 된다.

여기서 Jun은 자기 자신에게도 칼끝을 돌린다. 그녀 또한 개인 데이터를 수집하며, 과거에는 그것을 AI에게 분석하게 했다. 그렇다면 자신이 하고 있는 일은 Microphone Man과 본질적으로 무엇이 다른가, 라고 솔직하게 되묻는다. 비판을 남의 일로 치부하지 않고, 경계선이 어디에 있는지 자신의 실천 속에서 찾으려는 자세가 이 기사를 단순한 경고 이상의 것으로 만든다.

그 경계선을 구체적으로 보여주는 것이 언니와의 여행 중 에피소드다. 포르투갈이 식민지 시대의 역사를 미국과는 다른 형태로 기념하는 이유는 무엇인가. 두 사람은 처음에 그 의문을 그대로 ChatGPT에게 물어보려 했다. 하지만 일단 손을 멈추고, 먼저 자신들끼리 가설을 세워 보기로 했다. 이것저것 추측을 거듭한 뒤, 마지막에 AI를 사용하여 자신들의 가설을 검증했다.

즉각적으로 답을 얻는 것보다 이 우회하는 과정이 훨씬 만족도가 높았다고 그녀는 쓰고 있다. 같은 AI를 사용하더라도, 사고를 대신하게 하는 사용법과 자신의 사고를 시험하고 확장하는 사용법은 마치 별개의 행위라는 실감이다. 여기에 맡겨도 좋은 것과 놓쳐서는 안 되는 것의 갈림길이 있다.

기사가 마지막에 던지는 질문은 단순하다. 당신이 무엇을 생각하고 무엇을 원하는지를 도대체 누가 결정하고 있는가. 작업을 AI에게 넘기는 것은 괜찮다. 하지만 욕구와 판단을 형성하는 프로세스에까지 자신이 계속 관여하지 않는다면, 주체성은 어느샌가 외주화된다. 설령 AI에게 맡기는 것이 더 빠르더라도, 스스로 생각하는 수고를 남겨두는 것에 의미가 있다는 것이 결론이다.

여기서부터는 개인적인 견해이지만, 이 논의는 개발 현장에도 그대로 적용된다. AI의 생성물을 출발점으로 삼아 자신의 판단으로 검증하고 재구성하는 것은 건전하다. 반면, 왜 그렇게 작성하는지를 생각하지 않은 채 제안을 통째로 받아들인다면, 설계 의도도 트레이드오프 (trade-off) 감각도 자신에게 남지 않는다. 포르투갈에서의 우회(寄り道)가 보여준 '먼저 가설을 세우고, AI로 검증한다'는 순서는 리뷰나 설계 판단에도 응용할 수 있다. 정답을 가지러 가기 전에, 자신만의 견해를 한 번 거친다. 그 한 번의 수고가, 맡긴 뒤에 잃어버리기 쉬운 것들을 지켜줄 것이다. 효율과 주체성은 이지선다가 아니라, 어디에서 손을 멈출 것인가의 설계 문제라고 생각한다. 🧭

출처: Yennie Jun 「Are we offloading too much of our thinking to AI?」 뉴스레터 『Leadership in Tech』에서 소개. 원문: https://www.artfish.ai/p/offloading-thinking-to-ai