AI의 진정한 비용은 단순히 청구서 금액만이 아니다

AI 워크스페이스를 구축하면서 토큰 청구서, 낭비된 시간, 그리고 소프트웨어의 실제 가격에 대해 배운 것.

대부분의 사람들은 합리적인 가격이 가격 페이지의 숫자로 결정된다고 생각합니다.

123sudo에서 2년 동안 앱을 구축하고 출시하면서 저는 그게 훨씬 더 크다고 생각합니다. 가격은 우리가 추가하는 모든 단계, 낭비하는 모든 분, 요청하는 모든 데이터 조각, 그리고 누군가가 필요 이상으로 지불할 때마다 결정됩니다.

공개 고지: 저는 Vijay와 함께 여러 모델과 크레딧 기반 사용 방식을 갖춘 AI 워크스페이스인 9xchat을 구축한 123sudo의 공동 창업자입니다. 저는 이것을 매일 사용하며, 이를 구축하는 과정이 제가 여기서 공유하는 많은 것들을 형성했습니다.

알아차리지 못하는 청구서

AI 구독 서비스 하나는 합리적으로 느껴집니다. 그러다가 글쓰기를 위한 두 번째 것을 추가하고, 이미지 생성을 위한 세 번째 것을 추가하고, 어쩌면 지난주에 새로운 모델이 출시되었기 때문에 네 번째까지 추가합니다.

각각의 서비스는 그 자체로는 말이 됩니다. 하지만 함께 모이면 조용히 월간 습관이 되어버립니다.

당신은 각 도구를 사용하면서 여러 개의 도구에 돈을 지불하고 있을지 모릅니다. 그것은 가격 문제가 아닙니다. 디자인 문제입니다. 소프트웨어가 당신이 실제로 일하는 방식이 아니라, 구독 주위에 맞춰져 있었기 때문입니다.

토큰이 유틸리티 청구서가 되다

많은 사람들이 아직 완전히 알아차리지 못한 것이 있습니다.

AI가 일상 업무의 일부가 됨에 따라, 우리는 일회성 구매보다는 전기 요금과 더 가까운 무언가를 향해 나아가고 있습니다. 모든 질문, 이미지, 그리고 긴 문서는 컴퓨팅을 사용합니다. 컴퓨팅은 돈이 들고, 강력한 모델은 무한하지 않습니다.

그렇기 때문에 우리는 사용량 제한(usage caps), 속도 제한(rate limits), 그리고 수요가 증가함에 따라 변화하는 플랜들을 보게 됩니다. AI 비용이 줄어들 것이라고 진심으로 약속할 수 있는 사람은 아무도 없습니다.

따라서 장기적인 질문은 단순히

사용할 만큼 충전하고 필요한 것을 사용하며 크레딧이 어디로 쓰이는지 확인하세요. 모델과 작업마다 비용이 다르며, 결국 제한이 따르는 '무제한 사용'이라는 약속 속에 숨기기보다는 솔직하게 말하는 편이 낫습니다.

저에게 있어 크레딧은 단순한 진실을 존중합니다. 모든 사람이 AI를 똑같은 방식으로 사용하지 않기 때문입니다.

Vijay는 자신의 에이전트(agent)와 작업 흐름을 발전시켜 온 개발자입니다. 저는 연구, 이미지 생성, 글쓰기, 팀과의 커뮤니케이션에 같은 워크스페이스를 사용합니다. 우리의 사용 패턴은 완전히 다릅니다. 하나의 고정된 플랜으로는 우리 중 누군가가 과지불하게 될 것입니다.

합리적이라는 것은 다른 사람의 평균 비용이 아니라 자신의 작업에 대해 지불하는 것을 의미합니다.

작업에 맞는 적절한 용량(dose)

저는 기술 분야에서 일하기 전에 약학을 공부했습니다. 한 가지 교훈이 제게 남아있습니다. 바로 '적절한 용량이 중요하다'는 것입니다. 더 많다고 해서 자동으로 더 좋은 것은 아닙니다.

AI도 같은 방식으로 작동합니다.

짧은 메시지의 문법을 수정하는 데 가장 강력하고 비싼 모델이 필요하지 않습니다. 그리고 실제 결과에 영향을 미치는 복잡한 결정에는 가장 빠르고 가벼운 모델을 사용해서는 안 될 수도 있습니다.

이것이 우리가 하나의 워크스페이스에 여러 모델을 배치하는 이유 중 일부입니다. 전환한다는 것이 다른 앱을 열거나, 또 다른 구독료를 지불하거나, 프로젝트를 처음부터 다시 설명해야 한다는 의미가 아니어야 합니다.

시간도 가격의 일부이다

단순한 디자인 변경 하나는 예전에 제 디자이너에게 이틀이 걸렸습니다.

이제 저는 9xchat의 Image Studio에서 직접 변화를 탐색하고, 다양한 방향을 보고, 원하는 바를 알고 대화에 임할 수 있습니다. 이것이 디자이너의 기술을 대체하는 것은 아닙니다. 단지 제 아이디어와 다음 결정 사이의 기다림을 제거해 줄 뿐입니다.

이틀간의 기다림은 청구서에 절대 나타나지 않더라도 비용이 발생합니다.

새로운 채팅을 열 때마다 컨텍스트를 재설명해야 하는 것 역시 마찬가지입니다. 지속적인 메모리(Persistent memory)는 제가 중요한 작업 내용을 저장하고, 업데이트하거나 제거할 수 있게 해주며, 매번 처음부터 시작할 필요가 없게 만듭니다.

도구가 저렴하지만 시간을 낭비하게 한다면, 그것은 합리적이지 않습니다. 단지 지불 방식을 다르게 했을 뿐입니다.

당신의 데이터는 숨겨진 대가가 되어서는 안 됩니다

저의 법학 학위(law degree)는 제가 세부 조항을 읽도록 가르쳐 주었습니다.

어떤 제품이 비정상적으로 저렴하거나 무료로 느껴질 때, 그것이 어떻게 비용을 지불하는지 물어볼 가치가 있습니다. 때로는 그 답이 당신의 관심사일 수 있고, 때로는 당신의 데이터일 수 있습니다.

123sudo에서는 사람들의 이메일을 수집하는 것을 취미 삼아 하지 않습니다. 저희 앱은 대신 UID를 사용하므로, 시작하기 위해 이메일 주소를 공유할 필요가 없습니다. 저희는 여전히 인앱(in-app) 지원을 통해 사용자들과 연결되어 있습니다.

UID란 정확히 무엇인가요?
UID는 Unique Identifier의 약자입니다. 앱이 이메일 주소를 요구하는 대신, 계정을 인식하는 데 사용하는 ID 번호라고 생각하시면 됩니다.

123sudo에서는 UID 기반 접근 방식을 사용하여 사용자가 이메일을 공유하지 않고도 시작할 수 있도록 합니다. 도움이 필요하다면 인앱 지원을 통해 저희에게 연락하실 수 있습니다.

하지만 중요한 구분이 하나 있습니다: UID는 식별자일 뿐, 개인 정보 보호 보장(privacy guarantee)은 아닙니다. 이것이 자동으로 당신을 익명으로 만들거나 데이터가 처리되지 않는다는 것을 의미하지는 않습니다. 개인 정보 보호는 또한 앱이 어떤 정보를 저장하는지, 그 정보를 어떻게 보호하는지, 그리고 어떤 서비스가 그것을 받는지에 따라서도 달라집니다.

예를 들어, 클라우드 AI 모델을 사용할 때도, 요청은 여전히 처리를 위해 해당 제공업체로 전송되어야 합니다. UID 기반 접근 방식은 이메일 주소를 제공할 필요성을 없애줄 뿐이며, 클라우드 AI가 작동하는 방식을 바꾸지는 않습니다.

저에게는 이것이 하나의 실용적인 설계 선택입니다: 사람들이 시작하기 위해서 개인 정보를 요구하지 않는 것입니다.

또한 솔직하게 말씀드리자면, 클라우드 AI 모델을 사용할 때 당신의 요청은 장치 외부에서 처리됩니다. 개인 정보 보호는 마법 같은 스위치가 아닙니다. 우리가 무엇을 요청하고, 무엇을 보관하며, 사람들에게 무엇을 명확히 알려줄지에 대한 일련의 결정입니다.

소프트웨어는 개인 정보가 그 차액을 지불하지 않는다면 감당할 수 없습니다.

저에게 '설계 단계부터 합리적(affordable by design)'이라는 것은 무엇인가요

무언가를 구축하면서, 저는 몇 가지 질문으로 계속 돌아갑니다:

• 큰 부담 없이 누군가 시도해 볼 수 있을까요?
• 그들은 자신이 지불하는 것이 무엇인지 이해할까요?
• 우리가 실제로 필요하지 않은 데이터를 요구하고 있지는 않을까요?
• 시간을 절약해주나요, 아니면 관리해야 할 것을 더 많이 만들까요?
• 사람들이 기본적으로 가장 비싼 것을 지불하는 대신 작업에 맞는 올바른 도구를 선택할 수 있을까요?

이 중 어느 것도 단일한 숫자로 나타나지 않습니다. 이 모든 것이 소프트웨어가 진정으로 합리적인지를 결정합니다.

더 큰 꿈

저는 좋은 소프트웨어는 사치품처럼 느껴져서는 안 된다고 믿습니다.

학생, 장인, 1인 창업가 또는 제2외국어로 일하는 사람이라도 거대한 예산, 기술적 배경 지식, 또는 자신의 데이터를 포기할 의지 없이 강력한 도구를 사용할 수 있어야 합니다.

AI가 일상생활의 일부가 되면서, 합리성은 이전보다 덜 중요해지는 것이 아니라 더 중요해질 것입니다. 사용법을 이해하고, 올바른 모델을 선택하며, 데이터를 보호하는 사람들이 같은 예산에서 훨씬 더 많은 가치를 얻게 될 것입니다.

저는 사람들이 바로 그렇게 할 수 있도록 돕는 도구를 만들고 싶습니다.

지금 돈을 내고 있지만 더 이상 가치가 있는지 확신할 수 없는 도구는 무엇인가요?

KAT — 123sudo 및 Pangur Care 공동 창업자. 실용적이고, 합리적이며, 개인 정보 보호를 우선하는 소프트웨어를 구축합니다.