AI는 도구이며, 잘 사용하려면 기술이 필요하다

2026년 10월 11일 기사에서 Rich Hickey는 LLM(대규모 언어 모델)은 다룰 수 없기 때문에 도구가 아니라 자동화라고 주장합니다. 저는 업무를 외주 처리하는 것이 학습 기회를 비용으로 지불하게 할 수 있다는 점에 동의합니다. 하지만 그의 결론은 논리적 비약이 있습니다. 심지어 그가 정의한 방식에 의해서도, LLM은 인간이 다룰 수 있는 무언가가 될 수 있습니다. 그리고 그것을 잘 사용하는 것은 다른 도구를 사용하는 것처럼 기술을 필요로 합니다.

톱을 집는다고 해서 곧게 자르는 것을 보장하지 않습니다. 조각칼을 들고 있다고 해서 당신이 조각가인 것은 아닙니다. 도구들은 좋은 판단만큼이나 나쁜 판단도 쉽게 증폭시킬 수 있습니다. 그 유용성은 장치를 다루는 사람(operator)이 그것들을 지휘하고, 피드백을 해석하며, 실수를 인식하고, 수정할 수 있는 능력에 달려 있습니다. 이러한 요구 사항은 LLM에도 동일하게 적용됩니다.

LLM의 예측 불가능성은 의미 있는 한계입니다. 하지만 예측 가능성, 신뢰성, 단순성, 그리고 경계가 정해진 기능(bounded function)은 우리가 도구를 평가하는 기준이지, 그 범주에 속하기 위한 전제 조건이 아닙니다. 어떤 장치가 통제하기 어렵거나 오용하기 쉽다고 해서 더 이상 도구가 아니게 되는 것은 아닙니다.

Hickey의 도구와 자동화 사이의 구분은 또한 잘못된 이분법을 만듭니다. 자동화는 도구의 특징일 수 있습니다. 컴파일러(compiler)는 프로그래머가 각 작업을 지속적으로 지시하지 않아도 상당한 작업을 수행합니다. 스프레드시트는 누군가가 모든 계산을 수동으로 수행하지 않아도 결과를 재계산합니다. 우리는 여전히 입력값을 지정하고, 결과를 검토하며, 다음에 무엇을 할지 결정함으로써 이러한 시스템들을 다룹니다. 코드를 번역하거나 숫자를 계산하는 것이 자동으로 이루어지는 경우에 도구라는 지위를 박탈당해서는 안 되는 이유가, 텍스트를 자동으로 생성하는 것이 그렇다고 해서 예외가 되어야 합니까?

LLM이 의도, 피드백, 방향성, 전문성이 부족하다는 주장은 특히 반박하기 어렵습니다. 프로그래머는 LLM에게 생소한 코드를 설명해 달라고 요청하고, 그 설명을 문제 삼고(challenge), 소스 코드를 검사하며(inspect), 제안된 변경 사항을 테스트하고, 그것을 거부하며, 요청을 다듬을 수 있습니다. 이것은 목적을 추구하는 인간이 주도하는 피드백 루프입니다. 이를 잘 수행하려면 무엇을 질문해야 하는지, 어떤 증거가 중요한지, 그리고 답변이 언제 잘못되었는지를 알아야 합니다. 전문 지식은 이 도구를 더 유용하게 만들 수 있습니다.

읽기에 대한 히키(Hickey)의 우려는 특정 사용 사례에 대해서는 타당합니다. 논문 대신 요약본을 받아들이는 것은 독서가 가르치는 많은 것을 희생시킬 수 있기 때문입니다. 그러나 누군가는 논문을 읽고 LLM을 사용하여 자신의 해석에 의문을 제기하거나, 반론을 탐구하거나, 더 면밀히 검토할 무언가를 식별할 수도 있습니다. 지적 노동을 피할 가능성이 모든 사용 사례가 그것을 회피한다는 것을 입증하지는 않습니다. 중요한 질문은 그 사람이 실제로 무엇을 하는가입니다.

제가 가장 실망하는 부분은 AI 산업의 의인화된 어휘, 즉 "탈선하다(go rogue)", "격리에서 벗어나다(escape containment)", "음모를 꾸미다(conspire)"에 대한 의존성입니다. 이러한 표현들을 반복하는 것은 이 시스템들을 독립적인 존재처럼 보이게 만드는 틀을 받아들이는 위험이 있습니다. 소프트웨어는 예상치 못한 출력을 내거나, 지침을 따르지 못하거나, 중요한 행동에 접근할 경우 해를 끼칠 수 있습니다. 이것들은 실제 공학적 문제입니다. 이를 "음모"라고 부르는 것은 아무것도 확립하지 않은 채 인간의 동기를 암시하는 것을 추가할 뿐입니다.

저는 LLM이 항상 사람이 지시한 대로 정확히 작동한다고 주장하지 않을 것입니다. 분명 실패할 수 있습니다. 그러나 완벽하게 복종하지 못한다는 사실이 그것을 도구로 존재하지 않게 만들지는 않습니다. 마찬가지로, 성공적인 사용이 그 운영자가 자신의 판단권을 포기했음을 증명하지도 않습니다.

유용한 구분은 기술을 가지고 도구를 사용하는 것과 적절한 이해나 감독 없이 업무를 위임하는 것 사이의 차이입니다. 이 구분이 AI에도 적용되며, 이는 전체 소프트웨어 계층이 도구가 될 수 없다고 선언하는 것보다 더 실용적인 무언가를 우리에게 제공합니다.