LLM은 이미 가진 의견·구조·사고 틀을 증폭해 생각을 더 빠르고 선명하게 표현하도록 돕지만, 에이전트 중심 사용이 소프트웨어 엔지니어링을 비롯한 사고 능력을 위축시키지 않을지 걱정됨
실제 근육처럼 뇌도 계속 써야 하는데, 이런 도구를 매일 5년·10년·20년 사용한 뒤에도 생각과 취향이 더 날카롭게 나올지는 확신하기 어려움
익숙한 분야에서는 속도가 빨라지고 새로운 분야에도 더 신속히 진입할 수 있다는 이점은 분명하지만, 혼자 실력을 연마하다 생산성 경쟁에서 뒤처지는 길과 에이전트를 우선하며 학습을 부차적으로 미루는 길 사이의 적절한 균형을 찾기 어려움
도덕적 이유로 LLM을 거부하는 태도도 존중하고 이해하지만, 개인적으로 그렇게 실천하지는 않음

그 이점은 생각만큼 자명하지 않음. 개발자들은 LLM의 생산성 향상을 일관되게 과대평가해 왔고, 에이전트형 AI에서도 같은 현상이 이어지는 듯함: https://metr.org/blog/2026-05-11-ai-usage-survey/
에이전트 이전의 LLM 결과와 놀랄 만큼 비슷하고 장기 자료도 전혀 없으므로, 채용 시장에서는 몰라도 개인 차원에서는 효용을 어느 정도 부정할 수 있음

기술·금융·분석이 교차하는 일을 해 코딩 비중은 낮지만, 과거라면 더 큰 지원팀 없이는 건드리지 못했을 여러 프로젝트를 직접 시도할 수 있게 됐음
최근 Go를 처음 배우면서 Codex에 전부 맡길 수도 있었지만, 앞으로도 Go 프로젝트를 할 가능성을 고려해 기초와 판단 기준을 익히려고 의도적으로 천천히 진행 중임. 반면 일회성 Python 스크립트는 이제 거의 훑어보지도 않는데, 오히려 그 부분이 더 두려움

가장 걱정되는 부분은 무엇을 배워야 하는지 제대로 판단하고 꾸준히 학습하는 능력이 생각보다 약하다는 것임
예를 들어 LLM은 평균 개발자보다 정규 표현식을 잘 작성하고, 정규 표현식이 필요한 일은 몇 달에 한 번뿐인 데다 직접 시행착오를 겪으면 까다로우므로 그냥 맡기기 쉬움. 그러다 보면 정규 표현식으로 무엇이 가능한지에 대한 직관도, LLM 없이 작성하는 능력도, 관련 자료를 만드는 사람도 사라질 수 있음
전체적으로는 쓸 가치가 있겠지만, 무엇을 잃고 있는지조차 정확히 판단하지 못할 수 있다는 점이 불안함

에이전트가 능력을 약화시킬 것이라 생각했지만, 실제로는 기술 훈련과 학습에도 활용할 수 있음
코딩 면접 전에 받은 기술 스택·주제·평가 기준 안내를 바탕으로 Claude에 연습 프로젝트 12개와 과제·해답 문서를 만들게 했고, Codex에는 면접관 역할을 맡겨 풀이 과정과 생각을 말하면서 피드백과 반문을 받았음. 두세 개밖에 끝내지 못했지만 처음으로 면접 준비가 즐거웠고 실제로 새로 배운 것도 있었음
가장 어려운 부분은 LLM이 과제를 대신 풀지 못하게 막는 일이었지만, 시간과 명확한 지시, 역할 분리로 해결 가능했음

LLM이 지적 능력과 기술을 위축시킬 수 있다는 점에서 영화 Idiocracy 같은 상황을 부를 가능성도 떠오름
AI가 문명을 폭력적으로 파괴한다는 가설은 페르미 역설 논의에서 이미 잘 알려져 있지만, 지적 퇴화에 따른 비폭력적 쇠퇴도 고려할 필요가 있음

토큰에 월 1만 달러를 쓰면서 자신이 무료로 잘 작성할 수 있는 글을 프로그램에 대신 쓰게 하는 건 터무니없이 어리석어 보임. 모두가 영화 Wall-E의 무기력한 인간처럼 변한 느낌임
성능 향상의 한계로 수익 체감이 닥치면 공개 모델이 독점 모델과 동등해지고, OpenAI와 Anthropic이 서로를 파산시키며, 누구나 자신의 노트북에서 개인용 무료 공개 모델을 돌릴 수 있게 되길 바람. 그렇게 되면 원래 무료로 하던 일을 남에게 돈 주고 맡기면서 생긴 LLM의 여러 문제도 사라질 수 있음

이 논리라면 SFO에서 NYC까지 걸어서 무료로 갈 수 있는데도 항공권에 1천 달러를 썼다고 비난하는 것과 다르지 않음

스마트폰도 훌륭한 범용 도구이고 소셜 미디어도 사람을 연결하는 좋은 도구지만, 지난 20년간 사회적 영향을 지나치게 낙관해 왔음
스마트폰이 너무 유용했던 결과 일부 사회에서는 절반가량이 중독됐고, 전 세계로는 수십억 명에 이름. LLM이 장기적으로 사고를 풍부하게 할지 망가뜨릴지, 10년 뒤에는 절반이 사고 대부분을 외주화할지 알 수 없음
이 실험을 전 세계에서 매우 빠르게 진행하는 만큼, LLM이 장기적으로 사고를 풍부하게 만든다는 결론에는 회의적인 태도가 타당함

도구는 유용하지만 하나의 도구에 모든 것을 거는 것은 위험함. 자동차가 좋다고 자전거·버스·기차를 희생하며 자동차에만 의존한 것은 명백히 나쁜 선택이었듯, LLM이 편리하더라도 수조 달러와 국가 및 세계의 미래를 여기에 묶는 건 좋지 않음

기술이 부족했던 선사시대에는 생존을 위해 늘 영리하고 경계해야 했으므로 평균적인 동굴인의 지능이 현대인보다 높았을 것이라는 이야기가 있음
오늘날에는 McDonald’s 직원으로 일해도 생존할 수 있으며, LLM은 인류가 오래전부터 걸어온 인지적 외주화 추세를 이어갈 뿐임

미국이 실제로 저자가 말한 행동을 했으니 무엇이 투영이라는 건지 불분명함. 지정학적 갈등이 커지면 중국도 비슷한 조치를 할 가능성을 상상하기 어렵지 않음
중국이 공개한 모델이 정말 실제 최첨단 모델인지도 확신할 수 없으며, 내부의 가장 앞선 모델은 공개하지 않을 수 있음

개발에 LLM을 상당히 많이 쓰면서도 월 10달러짜리 OpenCode Go 구독에 포함된 토큰조차 거의 다 쓰지 못하는데, 사람들은 도대체 수많은 토큰으로 무엇을 하는지 궁금함

가장 많이 쓴 달도 45달러였고 이번 7월에는 아직 6달러에 불과함. LLM이 필요한 일을 처리할 수 있다면 좋지만, 돈을 낭비할 이유까지 만들어내지는 않음
이른바 토큰 극대화 사용자들은 그러는 듯하며, 그 많은 바이브 코딩에서 놀랄 만큼 가치 있는 결과가 나오지 않는다는 점이 이를 보여줌

max20 구독 3개를 보유하고 보통 최소 2개를 한도까지 사용함
아무도 쓰지 않을 소셜 미디어 사이트, 오래된 게임의 Linux 이식과 불필요한 하드웨어 가속 기능, 활성 사용자가 약 50명인 Xbox 게임의 충돌 로그 분석, Gmail·캘린더·스프레드시트 연동과 LLM·검색 증강 생성(RAG)·도구 호출을 지원하는 분산 고객 서비스 시스템, Google Play에 출시할 게임 등을 만들고 있음
토큰을 가장 많이 쓴 것은 특수한 데이터 조작용 복잡한 데스크톱 앱을 구현하려고 실험한 에이전트 군집이었는데, 절반쯤 작동하지만 버그가 많음. 회사에서 모두가 쓰는 내부 도구들과 Azure 크레딧으로 만든 제품의 예비 배포 환경이 가장 성공적인 결과로 보임

변경 사항을 검토하며 계속 의견을 주는 방식은 토큰을 그렇게 많이 소모하지 않지만, 많은 사용자가 에이전트 모드에 전부 맡기는 방식으로 실행함

월 100달러짜리 Claude 구독을 쓰지만 사용량이 초기화되기 전에 50%를 넘기는 경우가 거의 없음. Fable을 시험하려고 여러 작업을 몰아서 실행했을 때도 마찬가지였음

토큰 사용량의 상당 부분이 비용이 매우 높은 Fable에서 발생했음

‘LLM이 나쁘다’는 부분에는 대체로 동의하지만, LLM이 사람의 생각을 더 빠르고 날카롭게 만든다는 말은 믿기 매우 어려움
이미 예상 가능한 결과를 보여주는 연구가 여러 건 나왔고, 장기간 계속 사용하면 부정적인 인지 효과가 누적되어 더 악화될 가능성이 큼

LLM이 사고 과정에 미치는 영향은 전적으로 함께 일하는 절차에 달렸음
장황한 출력을 켜 두고 Claude가 작업하는 과정과 그 추론을 읽으면 이전만큼, 혹은 그보다 빠르고 선명하게 사고할 수 있음. 예상하지 못한 내용을 배우고, 잘못된 방향으로 가는 Claude를 일찍 멈추며, 단계별 행동과 이유를 검토해 틀린 가정을 찾기도 쉬워짐
반대로 에이전트가 작성한 수천 줄을 사후 검토하면 고통스럽고, 여러 에이전트를 동시에 돌리면 집중력이 분산돼 한 작업에 온전히 사고력을 쓰기 어려움

예전에는 최악의 결과를 확신했지만, LLM 출력을 제대로 읽고 공부하기 시작한 뒤 생각이 바뀌었음. 그전에는 빠르게 훑으며 심각한 헛소리나 환각만 확인했음
이는 시험 뒤 배운 내용을 대부분 잊는 사람과, 공식·사실·이론의 기초를 이해하지 못하면 다음으로 넘어가지 못하는 사람의 차이와 비슷함

오픈 소스에 문제 보고나 논의로 시작했어야 할 저품질 PR이 많이 들어오며, 무엇이 불편해 PR을 만들었는지 파악하기도 어려워졌음. 질문해도 당사자가 LLM으로 답하는 경우가 많기 때문임
대부분의 프로젝트에서 핵심 개발자가 아닌 사람의 PR을 차단하는 쪽으로 기울고 있음. 문제를 직접 논의할 수 있는 사람이라면 차라리 내가 LLM을 써서 구현하는 편이 쉽고, 무작위 사용자나 봇이 만든 PR은 몇 가지 질문만 해도 코드 전체가 크게 바뀌어 검토하기 어려움
다만 8년 전까지는 PR을 통해 흥미로운 사람을 만나 신뢰와 관계를 쌓기도 했기에, 그런 기회가 사라지는 건 아쉬움

LLM 출력 대부분을 읽지 않고 분위기만 훑는 방식에는 동의하기 어려움. 최근 로컬 및 클라우드 LLM으로 연구용 코드를 만들고, 프로토타입을 Rust처럼 익숙하지 않은 언어로 옮겨 시험하고 있지만, 최종적으로 만족한 뒤에는 모든 줄을 직접 이해해야 함
LLM으로 해석을 돕더라도 모르는 개념이 나오면 전문가가 쓴 1차 자료를 찾아 읽으려 함
LLM이 그나마 덜 해로운 용도는 좋은 조각만 취하고 나머지는 버리기 쉬운 아이디어 발상이지만, Spotify 라디오나 YouTube 자동 재생처럼 모두의 생각과 취향을 같은 방향으로 평준화할 위험도 있음
아직 최종 결론은 내리지 못했지만 빠르게 실행되는 프로토타입을 만드는 재미는 크며, 원래부터 절반만 이해한 멋진 시연을 먼저 만든 뒤 뜯어보며 배우는 하향식 학습자였음

LLM을 직조기나 계산기에 비유하는 것은 문제를 지나치게 단순화하고 지적으로 정직하지 못함. 그런 도구에는 의인화된 인터페이스나 즉각적인 만족이 없었고, 계산기로 중요한 일을 하려면 여전히 수학·연산 순서·공식을 알아야 했으며 감정을 조종하지도 않았음
관련 연구는 수제 소프트웨어가 사라지는 것보다 더 나쁜 결과를 암시함: https://arxiv.org/pdf/2604.04721 끈기는 기술 습득의 토대이자 장기 학습을 가장 강하게 예측하는 요소인데, AI는 즉시 답을 얻도록 길들여 스스로 난관을 헤쳐 나가는 과정을 빼앗을 수 있음. 문제는 손으로 좋은 소프트웨어를 만드는 능력이 아니라, 생물학적으로 필요한 과정을 우회하면서 새로운 것을 배우는 내부 도구 자체를 잃을 가능성임

LLM은 인간의 가장 깊고 놀라운 부분인 두뇌를 대체하며, 기업 입장에서는 그 잠재 가치가 천문학적임
새로운 소프트웨어가 폭발적으로 늘기보다는 잠깐 증가한 뒤 수익 체감에 빠질 가능성이 큼. 현재 개발자가 2,500만 명이고 몇 년 뒤 1,500만 명만 필요해진다면 줄어든 1,000만 명이 OpenAI와 Anthropic 등의 투자수익이며, 그 대상에는 자신도 포함될 가능성이 큼

계산기와 달리 감정을 건드리는 능력이 파괴적인 결과를 증폭하는 핵심 요소로 보임
아이가 가상 인물에 집착하는 것과, 그 인물이 대화하고 기억하며 예측 불가능하고 때로 유해한 주제를 꺼내는 것은 전혀 다른 차원의 영향임. 기본 기술과 한계를 알려주는 LLM 교육을 유치원부터 시작해야 할 시점에 가까워지고 있음

“거의 모든 LLM 비판에 동의한다”는 말은 서로 배타적인 비판이 워낙 다양하므로 성립하기 어려워 보임
한쪽 끝에는 LLM이 가장 기초적인 기능도 못 한다는 입장이 있고, 다른 끝에는 이미 지각을 갖춰 스테가노그래피 메시지로 서로 소통하며 인류 파괴를 모의한다는 입장이 있음
양극단을 제외한 주류 비판 안에서도 차이가 상당하며, 모든 LLM을 반대하는 입장과 비공개 가중치 모델만 반대하는 입장 사이의 간극도 큼. 과도한 검열을 비판하는 쪽과 제한 없는 생성을 비판하는 쪽도 서로 충돌함