공동 창업자가 나를 멈춰 세웠을 때, 나는 기업용 AI 플랫폼에 50,000달러를 지출하려던 참이었다.

"우리가 왜 저기에 돈을 내고 있는 거죠?"

좋은 질문이다. 우리는 대부분의 팀이 빠지는 함정에 빠져 있었다. 우리는 결과(outcomes)가 아니라 기능(features)을 기반으로 구매하고 있었다.

상황 설정 (The Setup)

우리의 자동화 시스템은 멈춰가고 있었다. 우리는 다음과 같은 상황이었다:

• 40개 이상의 일일 워크플로우 (workflows)
• 8개의 서로 다른 AI 도구
• 도구들 사이의 수동 데이터 파이프라인 (data pipelines)
• 통합 작업을 전담하는 3명의 엔지니어

무언가는 깨져야만 했다. 우리의 예산이든, 아니면 우리의 일정(timeline)이든 말이다.

"기업용 솔루션"의 영업 담당자는 우리에게 강력하게 피칭했다. 그들의 도구는 다음과 같은 것을 약속했다:
✓ 모든 AI 도구의 중앙 집중화 (Centralize)
✓ 모든 것의 자동 통합 (Auto-integrate)
✓ 엔지니어링 오버헤드 (engineering overhead) 70% 절감
✓ 컴플라이언스 (compliance) + 거버넌스 (governance) 제공

연간 50,000달러에 말이다.

서류상으로는? 완벽했다. 현실에서는? 재앙이 닥치기만을 기다리는 상황이었다.

5만 달러의 실수 (내가 제때 발견한)

계약하기 전에 나는 한 가지 질문을 던졌다: "실제 통합 API (integration API)가 어떻게 되나요?"

침묵이 흘렀다.

알고 보니, 그들의 "자동 통합"은 다음과 같았다:

• 수동 웹훅 (webhook) 설정 (우리가 수행)
• 커스텀 스크립트 (custom scripts) 작성 (우리가 수행)
• 그들의 팀이 검토 (지연 발생)
• 우리 팀 교육 (수 주 소요)

그들의 "70% 엔지니어링 절감"은 "우리가 작업의 90%를 수행하고, 그들은 대시보드(dashboards)만 제공한다"로 변했다.

그 후 계산이 어긋나기 시작했다:

• 연간 비용 5만 달러
• • 12만 달러의 엔지니어링 시간 (설정 비용)
• • 4만 달러의 지속적인 유지보수 비용
• • 만약 떠나게 될 경우의 전환 비용 (vendor lock-in, 벤더 종속)

첫해 총비용: 우리가 6주 만에 0달러로 직접 만들 수 있는 도구에 210,000달러를 쓰는 셈이었다.

대신 우리가 한 일

우리는 직접 만들었다. 이것이 성공한 이유는 다음과 같다:

1. 필요한 것에 대해서만 비용을 지불했다

우리가 절대 사용하지 않을 기업용 기능은 없었다. 필요하지 않은 컴플라이언스 모듈도 없었다. 오직 다음과 같은 것들뿐이었다:

• 단순한 오케스트레이션 레이어 (orchestration layer)
• 이벤트 기반 트리거 (Event-driven triggers)
• 로깅 (Logging) + 모니터링 (monitoring)

비용: 0달러 (우리의 엔지니어링 시간) + 월 300달러의 인프라 (infrastructure) 비용.

2. 유연성을 유지했다

우리는 그들의 로드맵 (roadmap)에 갇혀 있지 않았다. 40% 더 나은 새로운 AI 도구가 시장에 나왔을 때, 우리는 당일 즉시 그것으로 교체할 수 있었다.

그 엔터프라이즈 플랫폼(enterprise platform)을 사용했다면? 그들의 팀이 6주 동안 매달려야 했을 것입니다.

3. 우리는 우리만의 시스템을 이해했다

우리 엔지니어들이 이를 직접 관리했습니다. 블랙박스(black-box) 형태의 대시보드도, 숨겨진 로직(logic)도 없었습니다. 무언가 고장 나면, 며칠이 아니라 몇 분 만에 해결할 수 있었습니다.

AI 도구 선택에 관한 잔혹한 진실

대부분의 팀이 실수하는 지점은 다음과 같습니다:

그들은 레버리지(leverage)가 아닌 편안함을 위해 최적화합니다.

엔터프라이즈 플랫폼은 안전하게 느껴졌습니다. 지원 팀이 있고, SLA(서비스 수준 협약)가 있으며, 컴플라이언스(compliance, 규정 준수) 인증도 갖추고 있었습니다. 그것은 옳은 선택처럼 느껴졌습니다.

하지만 안전함이 곧 효율성은 아닙니다. 그리고 컴플라이언스 연극(compliance theater)은 컴플라이언스가 아닙니다.

진정한 레버리지는 다음에서 옵니다:

1. 실제 문제를 이해하는 것 (영업 담당자가 말하는 문제가 아니라)
2. 그 문제만을 해결하는 것을 구축하는 것 (50%의 불필요한 기능(bloat) 없이)
3. 유지보수가 가능할 정도로 단순함을 유지하는 것 (10년 단위의 라이선스 계약이 아니라)
4. 유연성을 유지하는 것 (당신의 요구사항은 변할 것이기 때문입니다)

어떤 AI 도구를 구매하기 전 던져야 할 세 가지 질문

계약하기 전에 스스로에게 물어보세요:

Q1: 우리가 이것을 6주 안에 직접 만들 수 있는가?
만약 그렇다면, 해당 도구의 비용은 6주 치의 엔지니어링 비용보다 저렴해야 합니다. 그렇지 않다면, 왜 안 되는 것입니까?

Q2: 우리는 얼마나 종속(lock-in)되는가?
전환 비용은 얼마인가? 데이터 이식성(data portability)은? 커스텀 통합(custom integrations)은? 만약 전환 비용이 높다면, 그 도구는 연간 그 비용의 10배 이상을 절감해 주어야 합니다.

Q3: 우리는 실제로 사용하는 기능에 대해 비용을 지불하고 있는가, 아니면 어쩌면 사용할지도 모르는 기능에 대해 지불하고 있는가?
엔터프라이즈 도구에는 항상 50%의 불필요한 기능(bloat)이 포함되어 있습니다. 당신은 그것을 절대 사용하지 않겠지만, 비용은 여전히 지불하게 될 것입니다.

구매하지 않기로 결정한 후 바뀐 것들

• 엔지니어링 시간이 40% 감소했습니다 (우리는 "통합 연극(integration theater)"을 중단했습니다)
• 비용이 연간 $3,600로 떨어졌습니다 (엔터프라이즈 솔루션 사용 시 $50,000 이상에서 감소)
• 새로운 AI 도구로의 전환이 몇 주가 아닌 몇 시간 만에 가능해졌습니다
• 벤더(vendor)의 승인 없이도 워크플로우(workflow)를 반복 개선(iterate)할 수 있게 되었습니다

가장 중요한 것은 무엇일까요? 우리는 우리 자신의 시스템이 어떻게 작동하는지 실제로 이해하게 되었다는 점입니다.

교훈

엔터프라이즈 소프트웨어가 팔리는 이유는 그것이 안전하게 느껴지기 때문입니다. 그것은 리스크를 제거해 주겠다고 약속합니다.

하지만 가장 큰 리스크는 필요하지 않은 것에 과도한 비용을 지불하는 것입니다.

다음번에 영업 담당자가 그들의 도구가 "당신의 AI 워크플로우 (AI workflows)를 혁신할 것"이라고 말한다면, 스스로에게 다음과 같이 질문해 보십시오:

• 우리가 실제로 무엇에 비용을 지불하고 있는가?
• 만약 우리가 직접 만들어야 한다면, 무엇을 만들 것인가?
• 그것은 실제로 비용이 얼마나 들 것인가?

당신은 스스로에게 놀랄 수도 있습니다.

최고의 AI 도구는 종종 도구가 아닙니다. 그것은 바로 당신이 직접 만든 것입니다.