지난주 저는 한 시니어 개발자가 작성한 "AI의 다음 단계는 무엇인가?"라는 글을 읽었습니다. ChatGPT가 나온 지 4년이 지났고, '바이브 코딩 (vibe coding)'이 밈(meme)에서 하나의 방법론으로 변해가는 것을 지켜보며, 다음 단계의 AI 규제가 가장 강력한 모델들을 모두에게 공개된 상태로 유지할지, 아니면 소수의 기업과 국가의 전유물로 조용히 남게 될지에 대해 의문을 던지고 있었습니다.

이곳 키수무(Kisumu)에 앉아 있는 저는 이 생각을 떨쳐낼 수가 없습니다. 한동안 제 마음을 괴롭혀온 생각입니다. 하지만 다른 지역에 있다는 점이 저에게 새로운 관점을 주었고, 새로운 각도에서 사물을 바라보게 합니다. 저를 괴롭히는 질문은 AI가 계속 개방될지 여부가 아닙니다. 그것은 더 이상 핵심 문제가 아닙니다. 제 마음을 정말 사로잡고 있는 것은, 케냐의 누가 실제로 이 기술에 접근할 수 있을 것인가, 그리고 그 비용은 얼마인가 하는 점입니다. 소프트웨어를 구축하며 생계를 유지하는 우리 나머지 사람들에게 이것은 어떤 영향을 미칠까요? 이곳에서 바라보는 관점은 이야기가 다르며, 이는 저로 하여금 더 큰 그림을 생각하게 만듭니다.

실링(shillings)으로 계산되는 토큰 비용

샌프란시스코 같은 곳에서는 백만 토큰당 달러로 책정된 모델 가격이 별일 아닌 것처럼 보일 수 있습니다. 하지만 달러 대비 실링의 가치가 하락하고 있는 케냐처럼 통화가 강하지 않은 국가에 있다면 이야기는 달라집니다. 월 40,000실링이라는 괜찮은 초급 급여를 받는 사람에게 이러한 비용은 빠르게 쌓일 수 있습니다. 고급 추론 모델 (advanced reasoning model)을 사용하는 비용은 백만 토큰당 수십 달러에 달할 수 있는 반면, 더 단순하고 빠른 모델은 단 몇 센트의 일부 비용만 들 수도 있습니다. 이러한 엄청난 비용 차이는 단순한 이론이 아닙니다. 케냐의 스타트업 창업자나 프리랜서에게 이것은 하루에 수천 개의 쿼리를 처리할 수 있는 제품을 출시할 수 있느냐, 아니면 한 달 수익 전체가 10일이 되기도 전에 청구서로 다 빠져나가는 것을 지켜보느냐의 차이입니다. 이는 비즈니스의 성패를 가를 수 있는 가혹한 현실입니다.

이것이 바로 이곳 현장에서 실제로 작동하고 있는 많은 것들이 값비싼 프런티어 모델 (frontier models)을 조용히 우회하는 이유입니다. 중소기업 (SMEs), 농부, 공공 서비스를 위해 구축되는 스타트업들은 더 저렴하고 빠른 소형 모델 계층 (small-and-fast tiers)에 의존하고, 공격적으로 캐싱 (cache)하며, 가능한 것은 배치 (batch) 처리합니다. 그리고 품질이 진정으로 중요한 파이프라인 (pipeline) 내의 단 한 단계만을 위해 더 비싼 모델을 예약해 둡니다. 저렴한 컴퓨팅 (compute)과 공유 인프라 (infrastructure)는 케냐의 자체 AI 전략 논의에서 부수적인 사항이 아니라 명시적인 논의 주제가 되었습니다. 왜냐하면 토큰 비용 (token cost)은 실제로는 그 어떤 수출 통제 목록보다도 실질적인 접근 제어 메커니즘 (access-control mechanism)이기 때문입니다.

자금과 권한이 향하는 곳

케냐는 인공지능을 활용하기 위한 명확한 계획을 가지고 있으며, 단순히 말로만 하고 있지 않습니다. 2025년부터 2030년까지 실행되는 국가 AI 전략 (National AI Strategy)은 AI가 어디에 사용되기를 원하는지에 대해 매우 구체적입니다. 농업, 의료, 교육, 그리고 정부가 국민에게 서비스를 제공하는 방식과 같은 분야를 살펴보고 있습니다. 또한 보안, 금융, 중소기업, 예술, 그리고 지속 가능성을 높이는 방법도 고려하고 있습니다. 이는 단순한 목표 목록이 아니며, 현재 진행 중인 프로젝트들을 통해 이미 실현되고 있는 것을 확인할 수 있습니다.

케냐에서 **핀테크 (Fintech)**는 기술이 제2의 천성처럼 자리 잡은 분야입니다. 이에 대한 훌륭한 예로 Safaricom을 들 수 있는데, 이들은 현재 M-Pesa를 개선하기 위해 생성형 AI (Generative AI)라고 불리는 유형의 인공지능을 사용하고 있습니다. Cellulant과 같은 다른 기업들도 사기 (Fraud)를 탐지하고 누구에게 신용 (Credit)을 제공할지 결정하기 위해 AI를 사용하고 있으며, 이는 매일 발생하는 실제 거래를 통해 이루어지고 있습니다. **핀테크 (Fintech)**와 AI가 밀접하게 연관되어 있다는 생각은 케냐에서 새로운 것이 아니며, 모바일 머니 (Mobile money)가 보편화된 이후 수년 동안 널리 받아들여져 왔습니다.

케냐의 농업은 지리 공간 (Geospatial) 및 위성 데이터 (Satellite data)를 활용하는 파트너십을 통해 활력을 얻고 있습니다. FAO, NASA Harvest, Microsoft, 그리고 케냐 우주국 (Kenya Space Agency)과 같은 조직들은 국가적 규모로 작물 지도를 제작하고 수확량을 예측하기 위해 협력하고 있습니다. 이 정보는 농부들에게 유용할 뿐만 아니라 보험사 (Insurance companies)와 대출 기관 (Lenders)에게도 도움이 됩니다. 이는 어떤 작물이 어디에서 잘 자랄지 보여주는 수정구슬을 가진 것과 같습니다. Twiga Foods는 이와 유사한 접근 방식을 사용하여 공급망 (Supply chain)과 물류 (Logistics)를 개선함으로써, 농장에서 식탁까지 음식을 전달하는 과정을 더욱 용이하게 만들고 있습니다.

• **의료 및 교육 (Healthcare and education)**은 기술이 큰 차이를 만들어낼 수 있는 중요한 분야입니다. 우리는 단순히 사람들이 새로운 도구를 사용하는 것만을 말하는 것이 아니라, 실제로 사물이 작동하는 방식을 바꾸는 것에 대해 이야기하고 있습니다. AI 기반 어드바이저 (AI-powered advisors), 원격 의료 (telemedicine), 그리고 농촌 지역의 사람들에게 도달할 수 있는 진단 (diagnostics) 기술을 생각해 보십시오. 또한, 학생들의 필요에 맞춤화된 방식으로 학습을 돕는 플랫폼도 있습니다. 이러한 분야에서는 다양한 언어를 이해하고 말할 수 있는 음성 모델 (voice models)을 갖추는 것이 정말 중요합니다. 만약 챗봇 (chatbot)이 영어로만 작동한다면, 많은 사람이 다양한 언어를 사용하는 국가에서는 도움이 되지 않을 것입니다. 정부는 공공 서비스를 전달하고 운영하는 방식을 개선하기 위해 노력하고 있습니다. 이를 수행하는 한 가지 방법은 여러 언어로 사람들과 대화할 수 있는 챗봇을 사용하는 것입니다. 또한 도구들을 더욱 효율적으로 만들려고 노력하고 있습니다. 정부는 이를 최우선 과제로 삼았으며, 이를 논의하기 위해 사람들을 모으고자 GITEX Kenya 및 Nairobi AI Forum과 같은 행사를 개최하기도 했습니다. 올해는 ICT부 (Ministry of ICT), UNDP, 그리고 몇몇 중요한 국제 파트너들과 같은 거물급 인사들이 참여했습니다.

케냐에서 일어나고 있는 일은 단순히 국가가 최신 인공지능 (artificial intelligence) 트렌드를 따라잡으려는 것이 아닙니다. 대신, 한정되고 비용이 많이 드는 컴퓨팅 자원 (computing resources)을 어떻게 사용할지에 대해 의도적인 선택을 내리는 것에 관한 것입니다. 초점은 사람들이 충분한 음식을 확보하고, 돈을 이동시킬 수 있으며, 의료 서비스에 접근할 수 있도록 보장하는 것과 같이 실질적인 차이를 만들 수 있는 실용적인 분야에 맞춰져 있습니다. 이는 단지 챗봇을 갖추기 위한 목적으로 챗봇을 만드는 것이 아닙니다.

그 모든 것의 밑바탕에 깔린 개발자 문제

코딩이 저의 직업이기 때문에, 이 지점에서 이야기는 개인적인 차원으로 넘어갑니다.

제가 읽었던 원문 기사는 500명 규모의 엔지니어링 조직 (engineering org)이 에이전트 (agents)를 감독하는 5명 규모의 조직으로 변하게 될 것인지에 대해 물었습니다. 현재 케냐에서의 솔직한 답변은 다음과 같습니다: 그것은 당신이 어떤 "리그"에 속해 있느냐에 전적으로 달려 있으며, 그러한 계층화는 이미 눈에 보이고 있습니다.

케냐 엔지니어 중에는 Microsoft의 Africa Development Centre, Google Nairobi, Andela, Turing과 같이 글로벌 시장으로 직접 진출하는 계층이 있습니다. 이들은 달러 기준 또는 글로벌 벤치마크에 맞춘 급여를 받으며, 종종 다른 모든 사람들이 읽고 있는 것과 동일한 에이전트 도구 (agentic tooling)를 사용하여 작업합니다. 이 계층에게 AI는 일자리에 대한 위협이 아니라, 바로 그 일 자체입니다. 현지 보상 추적기에 따르면, 단순히 저렴하기 때문에 케냐의 인재를 매력적으로 만들었던 기존의 "비용 차익 거래 (cost arbitrage)"는 점차 사라지고 있다고 하는데, 이는 좋은 문제입니다. 지리적 위치가 아닌 기술력에 따라 보상을 받고 있음을 의미하기 때문입니다.

케냐에는 현지 및 지역 시장을 위한 제품을 만드는 엔지니어와 창업자 그룹이 크게 형성되어 있습니다. 이들은 실링(shilling)으로 결제하는 고객들을 상대해야 하며, 인공지능 (AI)을 사용하는 모든 기능은 그 비용만큼의 가치를 지녀야 합니다. 이는 실리콘 밸리에서 일어나는 일과는 다릅니다. 이러한 엔지니어와 창업자들에게 "바이브 코딩 (vibe coding)"이라 불리는 새로운 코딩 방식은 어떤 면에서는 도움이 되지만, 어떤 면에서는 그렇지 않습니다. 이는 제품의 첫 번째 버전을 만드는 비용을 낮춰주는데, 이는 여전히 만들어져야 할 소프트웨어가 많은 시장에서 매우 유용합니다. 하지만 이는 동시에 코딩 에이전트 (coding agents)가 아직 잘 해내지 못하는 것들이 진정으로 가치 있는 것임을 의미하기도 합니다. 여기에는 특정 산업에서 어떤 도구가 정말로 필요한지 파악하는 것, M-Pesa와 같은 결제 시스템과 연동하는 것, 느린 인터넷 연결 및 다양한 언어를 사용하는 사용자들을 다루는 것, 그리고 모델이 농부의 대출 신청서에 잘못된 숫자를 제공하는 것과 같이 실수를 저질렀을 때 책임을 지는 것 등이 포함됩니다.

그리고 4년 전만 해도 "기술직"으로서 거의 존재하지 않았던 기초 계층이 있습니다. 데이터 어노테이션 (data annotation), AI 운영 (AI operations), 프롬프트 엔지니어링 (prompt engineering) 지원 등이 이에 해당하며, 현재는 종종 업계로 진입하는 입구 역할을 하고 있습니다. 이는 유용한 작업이지만, 상위 도구들이 인간의 교정이 덜 필요할 정도로 충분히 발전하게 된다면 구조적으로 가장 먼저 노출될 위험이 있는 영역입니다.

다음 기술은 "AI를 사용하는 것"이 아니라, "AI를 잘 사용하는 것"입니다

제가 계속해서 되새기게 되는 반전은 이것입니다. 만약 토큰 비용 (token cost)이 진정한 한계라면, 케냐에서 승리할 개발자와 기업은 AI를 가장 많이 사용하는 이들이 아닐 것입니다. 그들은 AI를 '가장 정밀하게' 사용하는 이들이 될 것입니다.

현재 많은 현지 AI 애플리케이션들은 문제의 복잡도와 상관없이 모든 문제에 동일한 모델을 사용하는 방식에 의존하고 있습니다. 이러한 접근 방식은 특히 예산이 한정된 기업들에게는 비용이 많이 들고 비효율적일 수 있습니다. 많은 경우, 성능을 희생하지 않으면서도 한 줄 분류 (one-line classification)와 같은 특정 작업은 더 단순하고 저렴한 모델로 처리할 수 있습니다. 하지만 다단계 워크플로 (multi-step workflows)가 필요한 더 복잡한 작업에는 더 고급 모델이 필요할 수 있습니다. 가장 숙련된 개발자는 어떤 작업에 더 강력한 모델이 필요하고, 어떤 작업은 더 저렴하고 빠른 대안으로 처리할 수 있는지 본능적으로 판단할 수 있는 사람들입니다. 이들은 더 고급 모델을 사용해야 할 강력한 이유가 없는 한 더 저렴한 옵션을 사용하는 것을 우선시하며, 이는 자원을 최적화하고 비용을 절감하는 데 도움이 됩니다. 모델 선택에 있어 더 사려 깊고 미묘한 접근 방식을 취함으로써, 개발자들은 특정 요구 사항과 예산에 더 잘 부합하는, 더 효율적이고 효과적인 AI 애플리케이션을 만들 수 있습니다.

이는 "프롬프트를 작성하는 법을 아는 것"과는 다른 기술입니다. 이는 시스템 사고 (systems thinking)에 더 가깝습니다:

적절한 모델을 선택하는 것은 시스템을 설계하는 핵심적인 부분이지, 나중에 하는 작업이 아닙니다. 이는 작업에 맞는 적절한 데이터베이스 (database)를 선택하는 것과 같습니다. 작업의 복잡도를 모델의 역량에 맞춰야 합니다. 훌륭한 엔지니어라면 기본적으로 가장 크고 강력한 데이터베이스를 사용하지 않고, 워크로드 (workload)에 딱 맞는 것을 선택할 것입니다. 모델도 마찬가지입니다. 우리는 단순히 습관적으로, 혹은 유행한다는 이유로 가장 크거나 인기 있는 모델을 선택하기보다, 어떤 모델을 사용할지 신중하게 고민해야 합니다.

• 엔지니어링 관행으로서의 토큰 규율 (Token discipline as an engineering practice): 컨텍스트 트리밍 (trimming context), 공격적인 캐싱 (caching aggressively), 지연 시간 (latency)이 허용되는 범위 내에서의 배치 처리 (batching), 단순한 호출은 작은 모델로 라우팅 (routing)하고 비용이 많이 드는 모델은 실제로 그 비용을 정당화할 수 있는 특정 단계에만 예약하는 것 등이 포함됩니다. 이는 지난 세대의 백엔드 개발자들에게 쿼리 최적화 (query optimization)가 중요했던 것처럼, 조용히 업무의 핵심 요소로 자리 잡고 있습니다. 프로젝트를 진행할 때 중요한 것은 단 하나의 도구에만 매달리는 것이 아닙니다. 대신, 작업을 완수하기 위해 여러 모델과 서비스를 결합하는 것입니다. 정보를 찾는 데 사용하는 모델이 있고, 그 정보를 이해하는 데 사용하는 또 다른 모델이 있으며, 다른 언어를 처리하는 세 번째 모델이 있을 수 있습니다. 또한 일상적인 작업을 위한 더 저렴한 옵션이 있을 수 있고, 국가 내에 머물러야 하는 민감한 정보를 처리하기 위해 로컬 또는 오픈 소스 (open-source) 모델을 사용할 수도 있습니다. 핵심은 이 모든 도구를 합리적인 방식으로 연결하는 방법을 아는 것이며, 또한 어떤 작업은 화려한 AI가 전혀 필요 없을 정도로 충분히 단순하다는 것을 아는 것입니다. 이는 그 자체로 하나의 특별한 기술이 되고 있습니다. 즉, 목표를 달성하기 위해 이 모든 다양한 도구와 서비스를 오케스트레이션 (orchestrate)할 수 있는 능력 말입니다.

저는 이것이 정확히 인증 시장 (certification market)을 이끌어낼 격차(gap)라고 믿으며, 이곳에서 그 일이 일어날 것이라고 확신합니다. 케냐는 이미 이 분야에 강력한 관심을 보이고 있으며, AI 전략과 대규모 인원을 실무적인 AI 기술로 교육하는 이니셔티브 (initiatives)가 전개됨에 따라 부트캠프 (bootcamps)와 업스킬링 (upskilling) 프로그램이 빠르게 성장하고 있습니다. 이러한 교육의 다음 단계는 프롬프트 작성 (writing prompts)과 같은 기초적인 기술에 집중하지 않을 것입니다. 왜냐하면 그것은 점차 구식이 되어가고 있기 때문입니다. 대신, 멀티 모델 파이프라인 (multi-model pipeline)을 설계하는 방법, 클라우드 인프라 (cloud infrastructure)처럼 토큰 소비 (token spend)를 관리하고 모니터링하는 방법, 그리고 언제 인간의 개입 (human intervention)이 여전히 필요한지 결정하는 방법과 같은 AI 시스템 리터러시 (AI systems literacy)와 같은 더 고급 주제에 집중할 것입니다. 대학이든, 부트캠프든, 혹은 Safaricom이나 Microsoft처럼 자사 직원을 교육하는 기업이든, 이 커리큘럼 (curriculum)을 개발하는 whoever가 향후 몇 년 동안 이 시장에서 "AI 준비가 된 개발자 (AI-ready developer)"가 무엇을 의미하는지를 본질적으로 정의하게 될 것입니다. 이는 AI 전문성에 대한 표준을 확립하고 개발자들이 이 분야에서 성공하는 데 필요한 기술을 습득할 수 있는 명확한 경로를 제공할 것이기에 매우 중요한 단계입니다. AI 전문가에 대한 수요가 계속 증가함에 따라, 잘 정의된 인증 프로그램 (certification program)을 갖추는 것은 최고의 인재를 식별하고 육성하는 데 필수적일 것입니다.

그래서, 같은 걱정, 다른 형태

제가 읽은 폴란드 관련 글은 확고한 답변 없이 끝났고, 저 또한 답변을 가지고 있지 않지만, 특히 케냐에 대한 저의 솔직한 전망은 다음과 같습니다: