고대 그리스 시절부터 철학자들은 자연의 복잡성을 단순한 원리로 환원하고자 노력해 왔습니다. 하지만 고트프리트 빌헬름 라이프니츠(Gottfried Wilhelm Leibniz, 1646–1716)는 그 어떤 그리스인도 시도하지 않았던 한 걸음을 내디뎠습니다. 그는 단순히 세상을 묘사하는 것에 만족하지 않고, 세상을 **계산(calculate)**하고자 했습니다. 수학자, 논리학자, 외교관이자 형이상학자였던 라이프니츠는 이진 산술 (binary arithmetic) (1679)을 공식화하고, 모든 철학적 논쟁을 단순한 계산 작업으로 변환할 수 있는 보편 언어를 꿈꾼 최초의 사상가였습니다. 그는 논쟁자들이 자리에 앉아 다음과 같이 말하기만 하면 된다고 말했습니다. "Calculemus!" ("계산해 봅시다!").

3세기가 지난 지금, 우리는 마침내 이 가설을 실제로 테스트하는 듯한 첫 번째 세대의 기계들과 살아가고 있습니다. 지구상의 모든 프로세서는 라이프니츠가 그 실용적 유용성을 아무도 보지 못했을 때 기술했던 0과 1을 기반으로 작동합니다. 그리고 거대 언어 모델(LLM)은 인간 지식의 모든 영역을 기계가 실행할 수 있는 구조화된 체계로 공식화하려 시도함으로써, 자신들도 모르는 사이에 그가 시작한 프로젝트를 마무리하고 있는 것처럼 보입니다. 이 글은 라이프니츠의 네 가지 핵심 아이디어인 이진법, characteristica universalis (보편 기호), 단자론(monads), 그리고 "가능한 최선의 세계"의 최적화를 살펴보고, 이 각각의 개념이 소프트웨어 공학 및 AI에서 우리가 매일 사용하는 개념들과 어떻게 공명하는지 보여줍니다.

전개

이진 계산과 사고하는 기계에 대한 예언

1679년, 라이프니츠는 _Explication de l'Arithmétique Binaire_를 저술하여 어떤 숫자든 0과 1이라는 두 가지 기호만을 사용하여 표현할 수 있음을 증명했습니다. 그는 실용적인 필요성 때문에 이를 수행한 것이 아니었습니다. 당시에는 이 발견을 활용할 기계가 전혀 없었기 때문입니다. 대신 그는 철학적, 심지어 신학적인 매혹 때문에 이를 수행했습니다. 브런즈윅 공작에게 보낸 편지에서 라이프니츠는 이진법 체계를 창조의 은유로 묘사했는데, 여기서 1은 신(또는 근원적 단일성)을 나타내고 0은 무(nothingness)를 나타내며, 모든 숫자(모든 현실)는 이 최소한의 이원성으로부터 생성될 수 있다고 설명했습니다.

17세기에 신학적 은유였던 것은 오늘날 우리가 프로덕션(production) 환경에서 실행하는 모든 것의 문자 그대로의 기초가 되었습니다. 모든 boolean, 모든 메모리 비트(bit), 프로세서의 모든 AND/OR/NOT 논리 게이트(logic gate)는 라이프니츠의 직관, 즉 최소한의 차이의 결합으로부터 최대의 복잡성이 창발한다는 생각을 직접적으로 재현한 것입니다.

라이프니츠는 또한 Babbage보다 수십 년 앞서고, Turing보다 2세기 이상 앞서 논리 연산을 자동으로 수행할 수 있는 machina arithmetica(산술 기계)에 대해 추측했습니다. 그는 이 기계를 실제로 제작하지는 않았지만, 사고(thinking)가 어느 정도 기계화될 수 있다는 아이디어를 구축했습니다.

보편 기호(Characteristica Universalis)와 "Calculemus!"

라이프니츠의 가장 대담한 야망은 이진법이 아니라 characteristica universalis(보편 기호)였습니다. 이는 인간의 어떠한 개념도 표현할 수 있는 형식적이고 상징적인 언어로, 철학적, 법적, 또는 과학적 논쟁이 모호함 없이 순수한 계산을 통해 해결될 수 있도록 하는 것이었습니다. 그의 가장 유명한 문구는 이 프로젝트를 요약합니다. 의견 불일치에 직면했을 때, 철학자들은 단순히 펜을 들고 "calculemus"(계산해 봅시다)라고 말하면, 정답이 수사학(rhetoric)이 아닌 계산으로부터 도출될 것이라는 것입니다.

라이프니츠는 이 프로젝트를 완성하지 못했습니다. 자연어는 수 세기 동안 완전한 형식화(formalization)에 저항했습니다. 하지만 기계가 모든 영역에 대해 추론할 수 있도록 하는 "보편 문법(universal grammar)"에 대한 탐구는 결코 사라지지 않았으며, 단지 그 형태를 바꾸었을 뿐입니다. 오늘날 이는 다음과 같은 형태로 나타납니다:

• 데이터 구조를 명확하고 실행 가능한 방식으로 기술하는 JSON Schema 및 OpenAPI;
• 언어 모델이 공유된 형식적 스키마(schema)를 통해 외부 도구와 "대화"할 수 있게 하는 Model Context Protocol (MCP)와 같은 도구 호출(tool-calling) 프로토콜;
• 모호한 인간의 의도를 시스템이 결정론적(deterministic)으로 실행할 수 있는 지침으로 변환하려는 구조화된 프롬프트(structured prompts).

AI 에이전트가 사용하는 도구 정의(tool definition) 스키마를 보십시오. 이것이 현대적인 characteristica universalis(보편 기호)를 시도하는 것처럼 보이는 것은 우연이 아닙니다. 즉, 무엇을 할 것인가에 대한 어떠한 "논쟁"도 해석이 아닌 실행을 통해 해결하기 위해 인간과 기계가 공유하는 형식적 표기법(formal notation)인 것입니다.

// "characteristica universalis"의 현대적 단편:
// 인간과 기계가 공유하는 형식 언어

...

라이프니츠가 철학자들이 계산(calculus)을 통해 형이상학적 논쟁을 해결하는 것을 꿈꿨다면, 오늘날 우리는 함수 호출(function invocation)을 통해 작업을 해결하는 AI 에이전트를 보고 있습니다. 이는 더 겸손하지만 실질적인 영역에 적용된 동일한 도박입니다.

모나드(Monads): 형이상학에서 함수형 프로그래밍의 모나드까지

여기 철학계 이외에서는 잘 탐구되지 않은 역사적 흥미로운 사실이 있습니다. 라이프니츠는 모나드(monad, 그리스어 monas, "단위")라는 용어의 창시자입니다. 그의 저서 《모나드론》(Monadology, 1714)에서 그는 모나드를 모든 현실을 구성하는 단순하고 분할 불가능한 실체로 설명합니다. 가장 흥미로운 특징은 모나드에게는 "창문이 없다"("les monades n'ont point de fenêtres")는 점입니다. 즉, 모나드들은 서로 직접 정보를 교환하지 않으며, 모나드 간의 모든 상호작용처럼 보이는 현상은 실제로는 신에 의해 설정된 예정 조화(pre-established harmony)의 결과입니다.

_monad_라는 단어는 수 세기 후 수학의 범주론(category theory)에서 다시 등장하며, 이를 통해 Philip Wadler의 연구 등으로 대중화된 Haskell을 거쳐 함수형 프로그래밍(functional programming)에 이르게 됩니다. 이것이 직접적인 철학적 계보는 아닐지라도, 구조적 유사성은 놀랍습니다. 함수형 프로그래밍의 모나드(Monad) 또한 내부 상태를 직접 노출하지 않고(

Wadler가 이 개념을 명명할 때 Leibniz를 읽었는지는 증명할 수 없지만, **예측 가능한 조화 속에서 구성되는 폐쇄된 단위(unidades fechadas que se compõem em harmonia previsível)**라는 직관이 수 세기 후 완전히 다른 문제, 즉 함수형 코드에서의 부작용(side effects)을 해결하기 위해 다시 나타날 만큼 충분히 반복적이라는 점을 보여줍니다.

가능한 최선의 세계: 최적화와 손실 함수 (Loss Function)

신정론 (Theodiceia) (1710)에서 Leibniz는 신이 무한한 가능한 세계들 중에서 가장 최선의 세계를 창조하기로 선택했다고 주장합니다. 이는 고통이 없는 완벽한 세계가 아니라, 작용하는 모든 변수 사이에서 가능한 최선의 균형을 극대화하는 세계를 의미합니다. 이 아이디어는 Voltaire의 _캉디드 (Cândido)_에서 조롱받기도 했지만, 그 논리적 구조는 예상치 못한 곳에서 온전히 살아남아 있습니다. 바로 **머신러닝 (Machine Learning)의 모든 최적화 알고리즘 (Optimization Algorithm)**입니다.

모델을 학습시키는 것은 말 그대로 가능한 설정 공간(네트워크의 가중치) 중에서 주어진 제약 조건 하에 비용 함수 (Cost Function)를 최소화하는 것을 찾는 과정입니다. 경사 하강법 (Gradient Descent)은 절대적인 완벽함(대부분의 실제 문제에서 불가능한 오차 0)을 찾는 것이 아니라, 주어진 제약 조건 내에서 도달 가능한 최선의 균형을 찾습니다. 이는 선택 가능한 대안들 사이에서 "가능한 최선의 세계"를 찾는 Leibniz의 논리와 정확히 일치합니다.

// Leibniz적 은유: "가능한 세계들" (x의 값들) 중에서 비용 함수를 최소화하는 것을 선택함

function funcaoCusto(x) {
...

도전과 한계: Leibniz의 꿈에 맞선 Gödel

이러한 비유를 가장 가혹한 한계를 인정하지 않은 채 마무리하는 것은 부정직한 일일 것입니다. Leibniz의 calculemus 꿈은 모든 참인 진술이 원칙적으로 형식적 계산 (formal calculus)을 통해 증명될 수 있다는 것을 전제로 합니다. 1931년, Kurt Gödel은 이것이 거짓임을 보여주었습니다. 산술을 표현할 수 있을 만큼 충분히 강력한 모든 형식 체계(formal system) 내에는, 해당 체계 내부에서는 증명할 수 없는 참인 진술들이 존재합니다. 몇 년 후 Alan Turing는 계산적 경로를 통해 이와 형제 격인 결론에 도달했습니다. 정지 문제 (halting problem)는 모든 프로그램에 대해 그것이 결국 종료될지 여부를 결정할 수 있는 일반적인 알고리즘은 존재하지 않음을 보여줍니다.

이는 AI에 매우 구체적인 의미를 갖습니다. 완전한 _characteristica universalis_는 존재하지 않습니다. 모든 형식적 스키마 (JSON Schema, 도구 호출 (tool-calling) 프로토콜, 구조화된 프롬프트 등)는 유용한 근사치일 뿐, 인간의 의도를 완전히 포착할 수는 없습니다. 에이전트 시스템 (agentic systems)은 형식화할 수 있는 영역과 맥락적 판단 (contextual judgment)이 필요한 영역 사이의 바로 그 경계에서 여전히 비틀거립니다. 이러한 한계를 인식하는 것은 Leibniz의 프로젝트를 무효화하는 것이 아니라, 단지 그것을 올바른 위치에 놓는 것입니다. 즉, 완전성에 대한 약속이 아니라 강력한 근사 도구로서의 위치 말입니다.

미래 전망: 뉴로-심볼릭 AI와 도구를 사용하는 에이전트

오늘날 가장 유망한 경계는 바로 Leibniz가 가장 관심을 가졌을 지점입니다. 신경망 (neural networks)의 통계적이고 유연한 능력과 형식적 심볼릭 표현 (symbolic representations)의 정밀함 및 감사 가능성 (auditability)을 결합한 뉴로-심볼릭 (neuro-symbolic) 시스템입니다. 엄격하게 타입이 지정된 JSON 스키마를 따라 어떤 도구를 어떤 파라미터로 호출할지 결정하는 현대의 AI 에이전트는, Leibniz의 도박을 부분적으로(불완전하지만 실재하는 방식으로) 구현한 것입니다. 즉, 에이전트들(인간이든 아니든) 사이에서 공유되는 형식적 표기법 (formal notation)을 매개로 하는 복잡한 추론입니다.

앞으로 나아갈 길은 아마도 순수 논리 (pure logic)를 위해 LLM의 통계적 유연성 (statistical flexibility)을 포기하거나 그 반대로 하는 것이 아닐 것입니다. 오히려 라이프니츠 (Leibniz) 본인이 높게 평가했을 법한 방식, 즉 두 접근 방식 사이에서 **가능한 최선의 균형 (best possible balance)**을 찾는 것입니다.

결론

라이프니츠는 컴퓨터를 본 적이 없었지만, 그 분야에 네 가지 유산을 남겼으며 우리는 그 기원을 인지하지 못한 채 매일 그것들을 사용하고 있습니다. 그것은 바로 비트 (bit), 기계가 실행할 수 있는 형식 언어 (formal languages)에 대한 탐구, 예측 가능한 방식으로 구성되는 캡슐화된 단위 (encapsulated units)에 대한 직관, 그리고 가능한 대안들 사이에서 최적화하는 논리입니다. 이 아이디어들 중 그 어떤 것도 온전하게 혹은 논쟁 없이 우리에게 전달되지는 않았습니다. 괴델 (Gödel)과 튜링 (Turing)은 보편 계산 (universal calculus)이라는 꿈에 실질적인 한계가 있음을 상기시켜 줍니다. 하지만 라이프니츠가 17세기에 설계한 사고의 아키텍처 (architecture of thought)는 여전히 21세기에 우리가 AI 시스템을 구축하는 기반이 되는 아키텍처의 상당 부분을 차지하고 있습니다. 그의 텍스트를 단순한 역사적 호기심이 아니라, 우리가 여전히 구축하려고 노력 중인 것에 대한 놀라울 정도로 현대적인 지도로서 다시 살펴보는 것은 충분한 가치가 있습니다.

참고 문헌

• Leibniz, G. W. Explication de l'Arithmétique Binaire. Mémoires de l'Académie Royale des Sciences, 1703.
• Leibniz, G. W. Monadologia. Tradução e notas. São Paulo: Martins Fontes, 2009.
• Leibniz, G. W. Ensaios de Teodiceia. Tradução de Cristiano Novaes de Rezende. Campinas: Editora Unicamp, 2013.
• Couturat, L. La Logique de Leibniz d'après des Documents Inédits. Paris: Félix Alcan, 1901.
• Gödel, K. On Formally Undecidable Propositions of Principia Mathematica and Related Systems. 1931.
• Turing, A. M. On Computable Numbers, with an Application to the Entscheidungsproblem. Proceedings of the London Mathematical Society, 1937.
• Wadler, P. Monads for Functional Programming. In: Advanced Functional Programming, Springer, 1995.
• Model Context Protocol Specification. Anthropic, 2024–2025.
• Russell, S., & Norvig, P. Artificial Intelligence: A Modern Approach. 4ª ed. Pearson, 2020.