AI 군비 경쟁 - 인지적 오류

일반인에게 있어 AI 군비 경쟁(arms-race)은 순전한 오류입니다. 이는 극도로 어려운 주제를 완전히 이해하려는 시도에서 발생하는 인지적 부하(cognitive load)가 마찰을 일으켜, 애초에 그 주제의 가장 깊은 층위까지 이해할 필요가 없음에도 불구하고 주제 자체의 가치를 완전히 떨어뜨리는 현상입니다.

예시: 비결정론적(non-deterministic)인 주제로부터는 항상 결정론적(deterministic)인 논리를 추출해야 합니다. 즉, 계산을 위해서는 코드(code) (라이브러리 및 표준 함수)를 사용하되, LLM(Large Language Models)과 그 대응 모델들(HRMs, SLM, VLLMs 등)은 그들의 자연어 이해(NLU) 능력을 위해 사용해야 합니다. 소형 모델(Small models)은 적절하게 오케스트레이션(orchestrated properly)될 때, 프론티어급 지능을 무차별적으로 투입(brute-force)하는 설계자들에 비해 효율성 측면에서 종종 더 나은 성능을 발휘(outperform)할 수 있습니다.

우리의 계산, 일시적인 주제, 그리고 어려운 수학 문제들을 모델로부터 가져와 수십 년 전에 작성된 안정적인 코드가 계산하도록 만드십시오. 모델 자체가 실제로 어떤 코드를 호출할지를 결정하게 하십시오.

Salesforce는 결정론적 논리를 위해 "->"와 같은 기호를 사용하는 반면, LLM에 프롬프트를 전달하기 위해 "|"와 같은 파이프(pipes)를 사용합니다. 이는 Salesforce 방식(Salesforce-method)으로 프레임화된 기본적인 오케스트레이션(orchestration)이지만, Flowise, Make.com, Zapier, AWS Step Functions 등 다양한 방식과 형태로 나타납니다. 네, 약간의 구문(syntax)을 이해할 필요는 있지만, 해당 구문은 몇 주 동안만 "마법"처럼 보일 뿐입니다. 일단 손에 익고 나면 마법은 사라지고 당신의 도구 상자에 있는 또 다른 도구가 될 뿐입니다.

임베디드 텍스트(embedded text)라는 개념조차 대부분의 사람들의 능력을 벗어나 있지만, 이것이 가치를 전달하는 데 방해가 되지는 않습니다. 저는 개가 계산기를 사용하지 못한다고 해서 화를 내지 않으며, 다람쥐가 생물학을 이해하지 못한다고 해서 화를 내지 않습니다. 이것은 일상적인 업무 작업에 적용되는 순수한 기술적 기능이며, 밑바탕이 되는 기술을 이해하는 능력과 그것을 설명하는 능력의 차이는 일상적인 문제 해결에 있어 중요하지 않습니다.

우리는 정말로 세상과 군비 경쟁 (arms-race)을 벌이고 있는 것일까요? 아니면 우리가 결코 만나지 못할 적들을 상대로 그림자 복싱을 하고 있는 것일까요? 만약 당신이 제품 관리자 (product manager)에게 "temperature"를 전달할 수 없다면, 의미론적 관계 (semantic relationships)를 매핑하기 위해 기하학적 공간 (geometric space)에서 cosine similarities를 설명하는 과정이 번역 과정에서 유실될 때, 그것이 제품을 변화시킬 가능성은 얼마나 되겠습니까? 설계자이자 오케스트레이터 (orchestrator)인 당신은 이러한 요소들이 제품에 어떤 영향을 미치는지 이해해야 하지만, 이는 몇 주간의 테스트와 QA (Quality Assurance)를 거치는 것만으로도 그 상위 수준의 영향 (high-level affects)을 파악하는 데 그리 오랜 시간이 걸리지 않는 일입니다. 더욱이, 한 세트의 모델과 가중치 (weights)를 이해하고 나면, 다른 모델과 가중치를 훨씬 더 쉽게 파악할 수 있습니다. Google, Anthropic, xAI, 그리고 CCP가 "진정한" 군비 경쟁을 벌이게 두십시오. 우리 나머지 사람들은 뒤처질 것이라는 두려움 없이 가치를 창출하는 데 집중해야 합니다.