Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Hermit Tech의 조사 결과, 기업들의 AI 프로젝트 성공률이 0%에 수렴하며 실질적 성과 없는 과잉 투자가 진행되고 있습니다. 경영진과 직원이 실패를 은폐하고 지표를 조작하는 구조적 문제로 인해 AI 도입이 전략적 목표가 아닌 정치적 도구로 변질되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Hermit Tech는 지난 1년 동안 회사 영업을 맡고 세계 각지의 전문가 약 300명과 대화하며 민간·공공 조직의 AI 도입 상황을 접함
팀이 1년 반 동안 참여했거나 다른 업무 중 간접적으로 본
모든 AI 프로젝트가 실패했으며, 성공 사례가 있더라도 일반적인 결과가 아닌 예외에 가깝다고 판단함
팀은 AI 구현 업무를 모두 거절했으며, OpenAI가 사라져도 현재 계약에 직접적인 영향이 없도록 노출을 최소화함
AI 도구가 특정 작업을 빠르게 할 수 있더라도 현재의 투자 방식과 규모는 타당하지 않다고 봄
기업의 일반적인 소프트웨어 프로젝트 수행 역량이 낮아 기존 실패 요인을 그대로 안고 있음
AI 프로젝트에는 기술의 신규성에서 오는 추가 실패 가능성도 존재함
소프트웨어를 안정적으로 출시하면서 이러한 위험까지 감당할 수 있는 기업은 드묾
이사회·경영진·직원·공급업체·컨설턴트 모두
AI 프로젝트의 성공 여부를 모호하게 만들 유인이 있음
실패를 인정한 경영진은 자리에서 밀려날 수 있음
솔직하게 문제를 말한 직원은 해고되거나 감원 대상이 될 수 있음
일부 상장사는 Copilot 라이선스를 구매한 것 외에는 별다른 작업이 없는데도 AI 생산성 향상을 발표함
프로젝트 목표·사용자·성과를 묻는 기본적인 질문조차 지휘 체계를 공격하는 행위로 받아들여질 수 있음
프로젝트가 진행 중일 때는 실패가 아직 드러나지 않아 잘되고 있다는 답이 나오기도 함
Hermit Tech는 위기가 현실화되기 전에는 개입하기 어렵다고 보고, 고객이 일반 데이터 전략에 관한 조언을 명시적으로 요청하지 않으면 진행 중인 AI 프로젝트를 먼저 문제 삼지 않음
이러한 접근은 Gerry Weinberg의 원칙인 “
컨설팅은 요청받았을 때 사람에게 영향을 미치는 일”에 기반함
기업에서 가장 흔한 AI 프로젝트는 내부 직원용 또는 고객용
LLM 챗봇임
내부 챗봇은 실질적인 사용 확산이 거의 없었음
기업 문서의 품질이 낮으면 LLM이 답변에 필요한 정보를 얻을 수 없음
기록되거나 접근 가능하게 만든 정보만 활용할 수 있으므로 문서화 문제를 AI가 대신 해결하지 못함
고객용 챗봇도 만족스러운 경험이 드물었으며, 의료 진료 중 실시간 전사 정도가 예외였음
프로젝트 책임자는 도구의 실제 사용 여부 같은 기초 지표를 피하거나 쉽게 조작할 수 있는 지표를 고르는 경향이 있음
관찰한 500명 이상 규모 조직에서는 승진과 고용을 유지하려면 해당 사업에서 AI가 모든 것을 바꿀 것이라는 믿음을 반복적으로 표명해야 하는 상황이 늘어남
구체적인 활용 아이디어가 아닌
신앙 고백에 가까운 발언이 요구됨
비기술 직군이 주로 이런 발언을 하지만 기술자도 호의를 얻기 위해 동조함
“AI가 모든 것을 바꾸고 있다”고 말한 뒤 조직 내 LLM 활용 사례나 달라진 업무를 하나도 제시하지 못한 경우가 있었음
연 매출 20억 달러 이상 조직의 기술 전략을 AI 중심으로 작성한 임원이 ChatGPT를 포함한 AI 도구를 한 번도 사용하지 않았다고 인정한 사례도 있었음
일부는 사상가처럼 보이려는 의도적 과장이지만, 기술 배경이 없는 사람이 자신의 말을 실제로 믿는 경우가 더 위험하다고 봄
한 조직은 최고 성과자들이 LLM 없이 성과를 냈다는 이유로 해고했으며, 외부 홍보가 아닌 자기 자금과 내부 전략에서도 같은 결정을 유지함
Hermit Tech가 고객에게 배포하는 주요 인프라 가운데 하나는 사용량 기반 분석 데이터베이스
Snowflake임
Snowflake의 Cortex는 데이터 열의 의미 같은 메타데이터를 활용해 자연어 질문으로 회사 데이터베이스를 조회하는 AI 계층임
“지난주 매출은 얼마인가?” 같은 질문에 답할 수 있음
Snowflake 직원의 발표에서 이상적으로 구성해도 대규모 기업 데이터의 복잡성 때문에 정확도가 약
92% 였던 것으로 기억함
CFO가 보는 숫자 약 10개 중 1개가 틀릴 수 있고 배포 관리에도 심각한 문제가 있어 프로덕션에는 적합하지 않다고 봄
그럼에도 Cortex는 인상적인 데모를 만들기 쉬웠음
대규모 AI 사업을 맡거나 공개적으로 과장된 발언을 하는 경영진 중 일부는 자신의 말을 믿지 않음
연간 반복 매출 10억 달러 이상 기업의 일부
AI 책임자는 해당 직책이 허구라고 생각하지만, 조직 내 유일한 승진 경로여서 맡았다고 밝힘
여러 CISO는 AI 사업에 조용히 회의적이지만 공개적으로 반대하기를 두려워함
Fortune 500 기업의 한 임원은 고객사 임원들이 100배 생산성 향상을 주장하는 상황에서 공급업체가 이를 부정하면 고객 경영진의 신뢰를 훼손하고 기업 계약이 취소될 수 있다고 말함
공급업체 역시 다른 공급업체의 고객이므로, 각 회사 경영진은 상대방의 과장을 반박했다가 자신이 먼저 불이익을 받을 가능성을 두려워함
이는 AI 성과에 관해 정직하게 말하기 어려운
조정 문제를 만듦
모두 기존 입장을 유지하면 자리를 지킬 수 있음
한 명이 사실과 다른 성과를 부정하면 동료를 거짓말쟁이·겁쟁이·무능력자로 만든 것으로 받아들여져 해고될 수 있음
해고된 자리는 다시 기존 입장에 따를 사람으로 채워짐
모두가 동시에 인정하면 상황이 바뀔 수 있지만 이를 조율할 수단이 없음
S&P 500 이사회 구성원들도 AI 투자를 요구해야 자리를 유지할 수 있다는 불안을 드러냄
한 구성원은 “이렇게 일찍 투자하는 것은 상승 여력은 적고 위험만 있는 것 같다”고 말함
약 2년 후 해당 수십억 달러 규모 기업은 스스로를
AI-native라고 브랜드화함
LLM이 유일한 핵심 메커니즘이며 구체적인 수치 목표 달성 여부로 성공과 실패를 명확히 판단할 수 있는 진정한 AI 프로젝트는 드묾
이런 유형은 주로 스타트업에서 발견됐지만, 일부는 완성됐다고 마케팅한 제품을 영업 대화 마지막에 Hermit Tech에 대신 만들어 달라고 요청함
AI 요소를 붙일 수 없거나 제안자가 거짓 포장을 거부하면 예산 요청이 사라지거나 모든 문서를 “
충분히 AI답게” 다시 작성해야 함
추가 인력을 요청하기 전에 AI로 해결을 시도했음을 입증하도록 요구하는 기업도 늘어남
AI를 사용했지만 인력이 여전히 필요하다고 말하면 “AI를 잘 못 쓰는 사람”으로 분류돼 감원될 수 있음
AI가 실제 최우선 과제를 해결하는 소수 기업을 제외하면 대규모 조직은 합리적인 소프트웨어 구매, 인재 채용, 프로젝트 상태 보고와 중요 사업 수행에 집중하기 어려워짐
AI 프로젝트의 문제를
그룹 회의에서 제기하지 않는 편이 나음
참석자마다 동료 앞에서 회의론자로 드러나는 것을 두려워하기 때문임
일대일 면담을 마련하고, AI 환경이 과열됐을 수 있다는 견해를 받아들이며 발언자의 신원을 보호한다고 알려야 함
직접 인용처럼 동료가 발언자를 알아볼 단서를 제거해야 함
6명 중 1명 정도만 문제를 말할 수 있다면 개선 가능성이 더 높은 다른 조직이나 프로젝트로 이동하는 편이 나을 수 있음
진행 중인 사업의 성공 가능성을 1~10점으로 평가하는
익명 설문이 효과적일 수 있음
관찰된 전형적인 결과는 절반이 3점, 나머지가 8점 정도를 주는 양봉형 분포였음
이미 3년 지연된 프로젝트에서도 이런 분열이 나타남
이 결과를 CEO에게 보여주면 프로젝트 상태에 관한 정보가 숨겨지고 있음을 확인할 수 있음
일상 업무에서 도구를 사용하는 현장 인력이 투자 성과를 판단할 수 있는 유일한 데이터 원천임
이들이 존중받는 환경에서 말하도록 해야 하며, 대규모 조직에는 부하 직원을 동등한 사람으로 보지 않는 구성원이 있을 수 있음
한 고객사에서는 직원들이
AI 도구 라이선스를 받았다는 사실조차 몰랐음이 드러나 기존 생산성 주장의 근거가 흔들림
이런 상황에 실질적으로 저항하기 어렵다는 사실을 받아들여야 하며, 문제는 AI 자체보다
역기능적 기업 문화에 있음
정규직 대신 계약직으로 전환하면 보수가 높아지고 내부 정치에서 멀어질 수 있으며, 견디기 힘든 상황에도 계약 종료일이 정해져 있음
AI 뉴스 소비는 정신적 소모를 줄일 만큼 제한해야 함
Hacker News와 Reddit처럼 관련 소식이 계속 공급되는 곳을 피함
현실 감각을 유지하는 데 필요한 만큼만 읽고 중단함
친구와 불평을 나눌 때도 그 목적을 미리 밝히는 편이 나음
누군가 부적절한 용도로 AI를 사용해도 즉각적인 신체 위험이 없다면 맞장구만 치고 넘어가는 편이 나음
프로그래머로서 AI에 관한 의견을 요청받으면, 중요한 의사결정에 영향을 미칠 수 있는 상대가 아닌 한 “과장된 면이 있다”고 짧게 답하고 주제를 바꾸는 방식을 권함
2,000줄짜리 저품질 AI 생성 PR을 계속 검토해야 한다면 조직이 결국 검토자를 소진시킨 뒤 해고할 가능성을 전제로
즉시 구직을 시작해야 함
생성자에게 작업 방식을 바꾸도록 설득하기 어렵고, 에너지가 남아 있을 때 이직을 준비하는 편이 나음
구직 때문에 처리 속도가 떨어져도, 그렇지 않으면 소진과 우울 때문에 나중에 같은 문제가 발생함