우리 대부분은 AI가 사회를 완전히 혁신하고 특이점을 가져올 거라고 어느 정도 확신했지만, 현실은 그렇지 않았음. 잘못을 인정하고 재평가하는 대신 AI를 모든 틈새에 억지로 끼워 넣으며 발전이라고 외치는 미래 역할극을 하고 있음
Nintendo Power Glove를 끼면 해커가 된다고 믿는 1990년대 아이와 비슷하며, 이것은 특이점이 아님. 이 열풍이 끝나고 모두가 다음 만능 해결책을 기다리는 시기로 돌아가길 바람

어떻게 LLM 이전의 세계로 돌아갈 거라고 생각할 수 있는지 이해하기 어려움. Opus 4.5 이후로 써보지 않은 것인지 궁금함
소프트웨어 업계를 떠나 매주 40시간씩 코딩할 수 없는 내게 에이전트형 AI는 검색 엔진, 전자 게시판, 컴파일러에 맞먹는 기술적 도약임. Claude Code에 홈랩 SMTP 설정, 2017년 Android 앱 현대화와 서명, 여러 운영체제·아키텍처용 GitHub Actions 실행기 구성을 시키면 설거지하는 동안 결과를 만들어냄
이를 대수롭지 않다고 부정하는 쪽이 오히려 AI 정신증에 대한 정신증에 빠져 있음. 모델 지능이 지금 한계에 부딪혀도 이미 판도를 바꿀 기술임

어떤 혁명도 계획하거나 과장한 방식 그대로 진행되지 않으며, 시작된 뒤에는 인간 행동의 결과이되 인간이 설계하지 않은 형태로 전개됨
개인은 업무에서 LLM을 적절히 활용하면서도 자기 업무와 타인이 원하는 결과를 제대로 이해하지 못해 많은 실수를 할 것임. 이메일·문자·전화 외에는 기술을 거의 쓰지 않는 경영진은 기술을 이해하지 못한 채 계속 떠들 것임
최종 결과는 아무도 모르지만, Claude를 5분만 써봐도 모든 사무직 업무가 과거와 똑같이 유지되리라 상상하기 어려움

십 대 때도 특이점은 납득되지 않았음. 인간이 설계한 하드웨어와 소프트웨어에서 실행되는 AI의 능력이 왜 갑자기 천문학적으로 향상된다는 것인지 의문임
인간 두뇌와 동등해져도 인간 사회 전체의 생산량을 따라잡으려면 효율을 몇 자릿수나 더 높여야 하고, 그래야 인간의 발전 속도를 앞설 수 있음. AI 특이점이 가능하더라도 가속에는 평생이 걸릴 수 있음

특이점은 몇몇 저명인사가 제안한 여러 가능성 중 하나일 뿐임. AI가 발전할 경로는 매우 다양하며, 우리가 예상하지 못한 방향도 많을 것임

변화 속도를 지나치게 빠르게 예상하는 듯함. 산업혁명도 1712년 Newcomen 증기기관에서 대량생산 자동차까지 수백 년이 걸렸음
AI 역시 1950년 Turing 검사가 제안된 뒤 통과한 듯한 시스템이 나오기까지 약 75년이 걸렸으니 시간을 더 줘야 함

“끔찍한 AI 코드가 담긴 2,000줄짜리 PR을 대량 검토하라는 조직은 결국 당신을 소진시키고 해고할 테니, 이미 해고된 것처럼 새 직장을 찾으라”는 대목에 공감함. 에이전트형 개발이 널리 도입될수록 이런 일이 더 자주 생길 것으로 봄

엔지니어링 책임자라면 교육, 절차 개선, 자동 품질 검사, 더 나은 계획으로 직접 해결해야 함. 귀를 막고 거부하는 방식은 지속 가능하지 않음
처리량을 두세 배로 높일 조건을 찾아 조직하고, 병목과 가장 어려운 부분에 집중해야 함. 실제로 이를 수행해본 입장에서 하는 말임

“1년 반 동안 관찰한 모든 AI 프로젝트가 실패해 성공률이 0%”라는 표현은 과장이라 신뢰를 떨어뜨림. AI라고 하면 전문가 시스템부터 LLM, 트랜스포머, 확산 모델까지 광범위하게 포함됨
의미 검색이나 확산 모델의 콘텐츠 생성, 심지어 감독학습 맥락의 선형 회귀에서도 생산성 향상이 나타남. 최근 관심을 되살린 트랜스포머 LLM으로 한정해도 단순하고 지루한 업무를 자동화하는 소규모 프로젝트는 대체로 성공했음
모델 능력 이상을 요구하는 야심 찬 프로젝트는 실패하기 쉽고 대부분 미리 예측 가능하지만, 가능성의 경계에 있는 일부는 정당한 연구개발 프로젝트임

각주를 보면 이들이 검토 요청을 받은 AI 프로젝트를 100% 거절했다고 밝힘. 홈페이지에서는 어려움에 빠진 프로젝트를 회복시키는 컨설팅을 판매하며, 2000년 이전 책에서 배운 “고대 기법”도 강점으로 내세움
내부 전문성이 없어 실패 중인 회사만 대상으로 광고한 뒤 자신들이 본 프로젝트는 모두 실패했다고 쓰는 선택 편향임. 지원까지 거절하니 성공 사례로 전환될 가능성도 차단됨

생산성 향상을 주장하려면 매우 신중해야 함. 작업 흐름 일부가 빨라져도 다른 부분을 늦출 수 있으며, 전체적인 향상은 아직 실증적으로 측정·검증되지 않았음
코드 줄 수, 단위 테스트, 문서, PR 속도 같은 지표는 늘었지만 실제 사업 성과는 불명확함. PR 증가는 기능 출시를 앞당길 수도 있지만 검토를 늦추거나 버그로 사용자 경험을 망칠 수도 있음. 더 많은 코드가 실제 매출로 어떻게 연결되는지는 회사들이 말하지 않음

직원 개인이 Claude Code나 Codex로 생산성을 높이는 것과, 회사가 LLM 위에 맞춤형 소프트웨어를 구축하는 AI 프로젝트는 크게 다름
전자는 기술을 적극적으로 거부하지만 않는다면 소프트웨어 엔지니어가 유용한 결과를 얻기 쉬움. 후자는 LLM이라는 특이한 기반 위에 구축해야 해서 매우 어렵고, 사내 챗봇 같은 뻔한 프로젝트는 과잉 약속과 기대 이하의 결과로 이어지기 쉬움

지구 반대편에 있는 전혀 다른 두 회사에서 경영진이 법적·재정적 파장이 큰 외부 문서를 LLM으로 작성하려는 모습을 봤음. 항상 전문가가 발송 전에 읽고 사실 확인을 한다고 하지만, 편집과 사실 확인이 전문이 아닌 사람은 처음부터 정확히 작성하는 것보다 검수할 때 훨씬 허술해지는 경향이 강함

“다른 일을 하는 동안 Go 저장소 사본 전체를 Zig로 재작성하게 해야 일자리를 지킬 수 있다”거나, 고객사 경영진이 생산성 100배를 주장하니 공급업체 임원이 현실성이 없다고 말할 경우 고객 임원의 신뢰를 훼손해 기업 계약이 취소될 수 있다는 일화들이 훌륭함

“관찰한 모든 AI 프로젝트의 성공률이 0%”라고 하지만 AI 프로젝트의 정의가 없음. 소프트웨어를 처음부터 작성하는 것인지, 비개발자가 내부·외부에서 LLM 챗봇을 쓰는 것인지, 다른 무엇인지 구체적인 예가 필요함

이 회사가 데이터 프로젝트를 수행한다는 점과 문맥을 보면 내부 업무 절차 자동화와 대화형 인터페이스를 가리키는 듯함
업무 자동화에 관한 벌거벗은 임금님 비판에는 전적으로 공감하지만, 많은 이에게 긍정적인 AI 보조 엔지니어링을 다루지 않은 점은 의외임. 챗봇도 문제 범위를 좁혀 적절히 선택하면 성공할 수 있음. 이전 회사는 벡터 데이터베이스용 대화형 인터페이스로 좋은 결과를 냈지만, 실제 핵심은 벡터 데이터베이스였고 전통적 UI가 더 빠르고 정확했을 수도 있음
전반적으로 글의 방향은 대체로 맞으며, 특히 최고경영진을 휩쓴 AI 광풍과 비현실적 기대에 관한 부분이 타당함

이들은 “Hermit Tech”라는 컨설팅 회사를 운영하며 홈페이지에서 2000년 이전 책의 “고대 기법”을 자랑함. 이런 성향이라면 AI와 관련된 모든 것을 싫어하는 것도 당연해 보이며, 진지한 회사가 AI 프로젝트 지원을 맡길 가능성도 낮아 보임

유용한 AI 응용은 소리 없이 기존 작업 흐름에 통합되는 반면, 비기술자를 위해 만든 무리한 대형 계획만 AI 프로젝트나 “AI 이니셔티브”라는 이름을 달고 실패하는 듯함

Claude로 고급 SQL과 Python 코드를 작성한 내 경험은 글의 주장과 맞지 않음. 자연어로 데이터를 질의하는 만족스러운 챗봇은 직접 보지 못했지만, 매우 복잡한 질의를 자연어로 작성하면 80~90% 수준까지 접근할 수 있었음
AI로 경쟁사보다 앞서가는 회사들은 크게 홍보하지 않고 조용히 활용할 가능성이 큼. 글이 겨냥한 대상은 관리자가 넘치는 대기업인데, 이런 조직은 AI 이전에도 데이터 과학·분석이나 블록체인으로 똑같이 행동했음

대기업에서는 LLM으로 가치를 만드는 사람보다 파괴하는 사람이 더 많을 수도 있음. 예전에는 한 사람의 시간만 낭비하던 Bob이 이제는 조직 전체의 시간을 낭비할 수 있음
누구나 LLM을 이용해 나쁜 아이디어를 그럴듯하게 포장할 수 있어, 평범한 부사장의 잘못된 아이디어를 조직 전체가 따라가며 엄청난 생산성 손실이 발생할 수 있음

글의 과장에는 동의하지 않지만 큰 방향은 맞음. AI는 한 시간 걸리던 복잡한 질의를 몇 초 만에 작성하는 등 작은 작업과 일상 업무에서 뛰어남
기능 개발은 여전히 비슷한 시간이 걸리거나 생산성 향상이 제한적임. 대부분의 조직이 소프트웨어 구축 자체를 고질적으로 못하기 때문인 듯함

지난주 서로 다른 두 곳에서 업무에 AI를 어떻게 쓰는지 묻는 설문을 받았는데, 둘 다 복수 선택 문항이면서 0개 선택은 허용하지 않았고 필수 질문으로 설정돼 있었음

기업의 AI 도입으로 막대한 생산성 향상이 실제 발생하는지는 몰라도, 삽 판매자인 Nvidia와 Anthropic에는 완벽하게 이치에 맞음

임금님이 벌거벗었다고 밝혀도 광풍을 멈추지는 못함. 17세기 튤립 광풍뿐 아니라 애자일 절차, 작업 시간표, 코드 줄 수 기반 생산성 측정도 비슷하며, 기업은 시대마다 새로운 집단적 광풍을 반복함
컨설팅 전문가의 절차론, 보안 담당자의 과도한 통제, 뒤처질지 모른다는 공포, AI 기반 현대 기업처럼 보이려는 발표 목표가 이를 촉발함. 고객·기업·공급망·정부·사상가 모두 이 세계적 춤에 참여하며, 음악은 언젠가 바뀌고 춤도 달라질 것임

이런 광풍은 군집 행동이나 군중심리라고도 부를 수 있음. 군중의 지혜보다 군중의 어리석음과 광기가 훨씬 흔함
비즈니스와 정치는 주로 이에 좌우되고, 기술 업계도 유행과 과장, 훗날 명백해 보이는 수십 년짜리 실수에 반복해서 빠짐