CEO들조차 말을 바꾸고 있다

Fortune은 며칠 전, 우리 중 많은 이들이 수개월 동안 말해왔던 내용을 조용히 확인해 주는 기사를 보도했습니다.

헤드라인: Sam Altman과 Dario Amodei가 AI가 대부분의 소프트웨어 엔지니어링 (Software Engineering) 직업을 없앨 것이라는 이전의 예측을 철회하고 있다.

인용구들이 매우 인상적입니다. Altman은 이제 "더 미묘한 차이가 있다 (it's more nuanced)"라고 말합니다. Amodei는 "엔지니어링적 판단 (Engineering judgment)은 여전히 필수적이다"라고 말합니다.

이들은 그리 오래되지 않은 과거에, 미래의 소프트웨어 엔지니어들이 주로 "컴퓨터에게 무엇을 할지 말하는" 역할을 하게 될 것이라는 인터뷰를 했던 바로 그 Altman입니다. 또한 AI가 코더 (Coders)를 대체할 것이라는 공개적인 타임라인이 어디에서나 헤드라인을 장식할 만큼 공격적이었던 바로 그 Amodei입니다.

그리고 이제 그들은 말을 바꾸고 있습니다.

기술이 퇴보했기 때문이 아닙니다. 현실 세계가 닥쳤기 때문입니다.

애초에 왜 그런 말을 했는가

한 가지 솔직하게 말씀드리겠습니다. 종말론적인 AI 예측은 결코 중립적인 분석이 아니었습니다. 그것들은 통계라는 겉치레를 두른 투자 유치 (Fundraising) 연설이었습니다.

수백억 달러를 조달할 때, "소프트웨어 엔지니어들이 곧 쓸모없어질 것이다"라는 서사는 매우 유용합니다. 이는 당신의 기술이 필연적인 것처럼 들리게 합니다. 경쟁자들을 겁줍니다. 당신의 회사를 다가올 미래를 진정으로 이해하는 유일한 기업으로 포지셔닝합니다. 기업 간 거래 (Enterprise deals), 규제 기관의 관심, 그리고 인재 채용 결정에 있어 긴박함을 조성합니다.

그러한 예측을 했던 CEO들은 또한 막대한 컴퓨팅 (Compute) 예산, 규제적 예외 사항, 그리고 GPU에 대한 지출이 수익보다 더 중요하다는 것을 투자자들에게 설득할 수 있는 종류의 하이프 (Hype)가 필요했습니다.

그들이 거짓말을 했다고 말하는 것이 아닙니다.

그들이 당시 자신들의 비즈니스에 유용했던 버전의 미래를 이야기했을 뿐이라고 말하는 것입니다. 그리고 이제 그 버전은 점점 덜 유용해지고 있습니다. 기업 고객들이 더 어려운 질문을 던지고 있고, 실제 배포 (Deployment) 데이터가 가장 단순한 종말론적 시나리오를 뒷받침하지 않기 때문입니다.

무엇이 변했는가

이러한 입장 변화(walk-back)는 모델이 약해지고 있다는 뜻이 아닙니다. 오히려 모델은 종말론적 예측이 나왔을 때보다 지금 더 발전했습니다.

변한 것은 소프트웨어 엔지니어링 (Software Engineering)이 실제로 무엇을 포함하는지에 대한 이해입니다.

이론은 대략 다음과 같았습니다: AI가 코드를 작성하는 능력이 향상된다 → 코드를 작성하는 인간에 대한 수요가 붕괴한다 → 소프트웨어 엔지니어링은 프롬프트 엔지니어링 (Prompt Engineering)이 된다.

하지만 현실은 더 가혹했습니다:

생성된 코드에는 검토 (Review)가 필요합니다. 코드를 검토하는 것은 코드를 작성하는 것보다 어렵습니다. 특히 코드가 그럴싸해 보이지만 명확하지 않은 방식으로 틀렸을 때는 더욱 그렇습니다.
시스템은 단순한 코드가 아닙니다. 작동하는 애플리케이션은 의존성 트리 (Dependency trees), 인프라 (Infrastructure), 계약 보증 (Contract guarantees), 컴플라이언스 제약 (Compliance constraints), 기존 사용자 기대치, 장애 대응 플레이북 (Incident response playbooks), 그리고 작년에 예고 없이 변경된 결제 API의 기이한 동작 등을 모두 포함합니다. AI는 코드에는 능숙합니다. 하지만 시스템은 더 어려운 문제입니다.
검증 (Verification)이 병목 현상 (Bottleneck)입니다. 모델이 올바른 코드를 생성하더라도, 이러한 특정 제약 조건과 특정 운영 조건 하에서 이 특정 시스템에 맞는 올바른 코드인지 검증하는 것은 여전히 인간의 판단 영역입니다. 테스트가 도움이 되긴 하지만, 이해 (Understanding)를 대체하지는 못합니다.
비결정론 (Non-determinism)은 실제적인 문제입니다. Lenz Research의 최근 연구에 따르면, 최첨단 LLM (Frontier LLMs)들은 사실 확인 (Fact-check) 주장 중 67%에 대해 서로 의견이 일치하지 않는 것으로 나타났습니다. 만약 모델들이 검증 가능한 사실에 대해서도 합의하지 못한다면, 두 개의 서로 다른 모델이 동일한 풀 리퀘스트 (Pull Request)를 검토할 때 어떤 일이 벌어질까요? AI가 생성한 작업이 일관적일 것이라는 가정은 실제 상황에서 무너집니다.

CEO들이 지난 한 달 사이에 갑자기 이러한 문제들을 발견한 것이 아닙니다. 그들이 이를 공개적으로 인정하는 이유는 기업 고객들과의 비공개 대화에서 이미 한동안 동일한 지점들이 지적되어 왔기 때문입니다.

"거봐, 내가 말했잖아" 부분 (미안하지만, 미안하지도 않습니다)

저는 지난 4월에 소프트웨어 엔지니어 직업의 종말(job apocalypse)은 아직 일어나지 않고 있다고 썼습니다. 논거는 명확했습니다. AI가 일부 구현 작업(implementation tasks)을 더 저렴하게 만들 수는 있지만, 엔지니어링적 판단(engineering judgment), 시스템 사고(systems thinking), 검증 규율(verification discipline), 그리고 아키텍처적 안목(architectural taste)은 지속 가능한 기술이라는 점입니다. 병목 현상은 사라지는 것이 아니라 상위 단계로 이동합니다.

Fortune 기사는 제가 본 것 중 그 논거에 대한 가장 강력한 외부적 검증입니다.

무서운 예측을 내놓았던 두 CEO가 모두 "사실, 상황은 더 미묘합니다"라고 말할 때, 그것은 시장이 적응하고 있는 것이 아닙니다. 그것은 가설이 현실에 부딪혀 패배하고 있는 것입니다.

제가 한 가지 덧붙이고 싶은 점은 일반적인 견해와는 약간 다르다는 것입니다. 대부분의 사람들은 이러한 입장 번복을 "AI가 우리가 생각했던 것만큼 뛰어나지 않다"라고 읽습니다. 저는 다르게 읽습니다. AI는 우리가 생각했던 것만큼 뛰어나지만, 소프트웨어 엔지니어링은 언제나 코딩 그 이상이었으며, 시장이 마침내 그 차이를 이해하기 시작했다는 것입니다.

AI는 인상적인 풀 리퀘스트(pull request)를 생성할 수 있습니다. 하지만 장애 회고(incident review) 자리에 앉아 시스템이 왜 그렇게 동작했는지 설명할 수는 없습니다. 긴급 수정 사항을 배포하는 것과 연락이 닿지 않는 세 명의 고객이 의존하고 있는 API 계약(API contract)을 보존하는 것 사이에서 결단을 내릴 수도 없습니다. 1년에 한 번 발생하지만 발생 시 백만 달러의 비용이 드는 엣지 케이스(edge case) 때문에 어떤 지저분한 코드가 존재하는지 알 수도 없습니다.

그것들은 프롬프트(prompts)로 해결되는 것이 아닙니다. 그것들은 엔지니어링 결정(engineering decisions)입니다.

엔터프라이즈 현실과의 격차 (the enterprise reality gap)

엔터프라이즈 소프트웨어 계약은 종말론적 서사가 소멸하는 곳입니다.

최근에 은행, 의료 기관, 또는 정부 기관에 제품을 판매해 본 적이 있다면 그 이유를 알 것입니다.

이러한 조직들은 AI가 벤치마크에서 더 나은 코드를 생성하는지 여부에는 관심이 없습니다. 그들은 다음 사항들에 관심을 가집니다:

준수 여부를 증명할 수 있는가 (Can we prove compliance)? AI가 생성한 변경 사항이 규제 요구 사항을 충족하는가? 이에 대한 감사 추적 (Audit trail)을 생성할 수 있는가? 생성된 코드가 사고를 일으켰을 때 누가 책임을 지는가?
비용을 통제할 수 있는가 (Can we control cost)? 에이전트 (Agent) 실행은 공짜가 아닙니다. 규모가 커지면 비용도 저렴하지 않습니다. 수천 개의 리포지토리 (Repos)와 수만 개의 태스크 (Tasks)에 걸쳐 에이전트를 실행하는 비용은 빠르게 누적됩니다.
프로덕션 환경에 신뢰하고 맡길 수 있는가 (Can we trust it with production)? 추상적인 의미가 아닙니다. 구체적으로: 이 시스템이 우리의 서비스 수준 협약 (SLAs)을 충족하는가? 우리의 예외 케이스 (Edge cases)를 처리할 수 있는가? 우리의 데이터 경계 (Data boundaries)를 준수하는가? 장애 발생 시 우아하게 실패 (Fail gracefully)하는가?
유지보수가 가능한가 (Can we support it)? 만약 AI가 무언가를 생성했는데 이후 AI 제공업체가 모델을 변경한다면, 그 생성된 코드는 누가 유지보수하는가? 2년 후 프로덕션 환경에서 코드가 깨졌을 때, 이를 수정할 수 있을 만큼 충분히 잘 이해하고 있는 사람은 누구인가?

이러한 질문들은 더 나은 모델이 나온다고 해서 사라지는 것들이 아닙니다. 이것들은 코드 생성 능력이 얼마나 뛰어나든 상관없이 적용되는 조직적 제약 사항 (Organizational constraints)입니다.

엔터프라이즈 영업 주기 (Enterprise sales cycles)는 훌륭한 데모와 실제 프로덕션 시스템 사이의 간극을 드러내는 경향이 있습니다. 그 간극이 바로 현재 CEO들이 공개적으로 인정하고 있는 부분입니다.

이를 생각하는 가장 유용한 방법

제가 계속해서 되돌아오게 되는 프레임워크 (Framing)는 다음과 같습니다.

종말을 예측했던 모든 사람들은 그 시점에 대해 틀렸습니다. 아무것도 변하지 않을 것이라고 예측했던 모든 사람들은 그 규모에 대해 틀렸습니다.

진실은 그 중간 어디쯤에 있으며, 이는 양극단 중 어느 쪽보다 더 흥미롭습니다:

종말론적 주장	현실 점검
엔지니어가 에이전트로 대체될 것이다	에이전트를 잘 사용하는 엔지니어가 그렇지 않은 엔지니어를 대체할 것이다
...

Altman과 Amodei의 입장 변화는 AI가 약하다는 양보가 아닙니다. 소프트웨어 엔지니어링이 작동하는 환경 — 조직, 준수 (Compliance), 비용, 지원, 신뢰 — 이 코드 생성기의 원시적인 능력 (Raw capability)보다 더 중요하다는 점을 인정하는 것입니다.

엔지니어들에게는 나쁜 이야기가 아닙니다. 하지만 향후 5년이 더 단순해질 것이라고 생각했던 모든 이들에게는 나쁜 이야기입니다.

이것이 지금 당신의 커리어에 의미하는 바

만약 당신이 엔지니어로서 이러한 입장 변화(walk-back)가 당신의 계획을 바꿔야 하는지 고민하고 있다면, 저의 솔직한 견해는 다음과 같습니다.

이는 제가 지난 4월에 했던 말을 확인시켜 줍니다. 판단력(Judgment), 안목(Taste), 시스템 사고(Systems thinking), 그리고 검증 규율(Verification discipline)이 바로 지속 가능한 기술(Durable skills)입니다. 그것들은 언제나 그러했습니다. CEO들이 단지 그렇지 않은 척하기를 그만두었을 뿐입니다.

만약 당신이 새로운 프레임워크(Frameworks)를 배우고 AI가 당신을 대체할 수 있을지 걱정하는 데 에너지를 쓰고 있다면, 그 에너지의 일부를 다음과 같은 곳으로 돌리십시오.

코드 리뷰(Code reviewing) 능력을 키우십시오. 단순히 차이점(Diffs)을 읽는 것이 아닙니다. 정확성(Correctness), 유지보수성(Maintainability), 그리고 시스템 적합성(System fit)을 위해 리뷰하십시오. 그 기술은 가치가 낮아지는 것이 아니라 점점 더 높아지고 있습니다.
운영 환경에 대한 판단력(Production judgment)을 기르십시오. 온콜(On-call)에 시간을 투자하십시오. 무엇이 고장 나는지 배우십시오. 왜 지저분한 코드(Ugly code)가 존재하는지 이해하십시오. 시스템이 실제 운영 환경(Production)에서 어떻게 동작하는지 아는 엔지니어가 가장 대체하기 어렵습니다.
단일 출처의 서사(Single-source narratives)를 회의적으로 바라보십시오. 판매할 제품이 있는 회사가 미래가 X라고 말할 때, 당신이 그들을 믿었을 때 그들이 무엇을 얻는지 질문하십시오.
높은 기준을 유지하십시오. 계속해서 유효한 인재로 남는 가장 쉬운 방법은 좋은 프롬프트(Prompt)가 만들어낼 수 있는 것보다 눈에 띄게 더 나은 결과물을 만들어내는 것입니다. 이는 높은 기준처럼 들릴 것입니다. 실제로 그렇습니다. 바로 그것이 핵심입니다.

결론 (The punchline)

종말론을 철회하는 CEO들의 행보는 승전보가 아닙니다. 그것은 현실 세계가 투자 유치용 피치(Fundraising pitch)보다 더 복잡하다는 것을 인정하는 것입니다.

AI는 소프트웨어 엔지니어링을 변화시키고 있습니다. AI는 작업의 일부를 자동화하고, 일부 역할은 압축하며, 다른 역할은 증폭시키고, 우리 모두로 하여금 우리가 무엇을 하는지, 그리고 그것이 왜 중요한지에 대해 더 명확하게 설명하도록 강요하고 있습니다.

하지만 종말은 오지 않았습니다.

종말을 예측했던 CEO들이 이제 당신에게 똑같은 말을 하고 있습니다.

어쩌면 그것은 그들이 틀렸다는 뜻일 수도 있습니다. 혹은 그들이 항상 자신들의 비즈니스에 도움이 되는 이야기를 해왔으며, 이제 그 이야기가 바뀌었음을 의미할 수도 있습니다.

어느 쪽이든, 신호(Signal)는 동일합니다.

엔지니어링 직군에 대재앙(Apocalypse)이 닥치는 일은 없습니다.

기준은 더 높아졌습니다. 요구되는 기술 세트도 달라졌습니다. 판단력(Judgment)에 대한 강조는 커졌고, 엉성한 작업(Sloppy work)에 대한 허용치는 낮아졌습니다.

이것은 소프트웨어 엔지니어링의 종말이 아닙니다.

단지 코드를 타이핑하는 것이 가장 어려운 부분이었다고 가장하던 시대가 끝났음을 의미할 뿐입니다.