AI 에이전트를 관리하기 위한 「언어」가 필요해질지도 모른다

최근 AI 에이전트에 관한 화제를 보면서 문득 든 생각이 있습니다.

그것은,

AI 에이전트를 관리하기 위한 전용 언어가 필요하지 않을까?

라는 것입니다.

언뜻 보기에는 조금 레트로한 발상입니다.

「새로운 기술에 대해 결국 다시 프로그래밍 언어를 만드는 것인가」라는 인상도 있습니다.

하지만 AI가 본격적으로 복잡한 태스크 (Task)를 실행하게 되면, 이 사고방식은 오히려 자연스러운 것일지도 모릅니다.

현재의 대규모 언어 모델 (LLM)은 매우 고성능입니다.

• 문장을 쓰기
• 코드를 쓰기
• 조사하기
• 설계하기
• 문제를 풀기

와 같은 지적 작업을 높은 수준에서 실행할 수 있습니다.

하지만 그 거동은 기존의 프로그램과는 다릅니다.

같은 지시를 주어도,

• 조금 다른 답을 돌려줌
• 기대한 형식으로 출력하지 않음
• 맞는 것 같지만 틀린 내용을 포함함

과 같은 일이 일어납니다.

즉 AI는,

「반드시 정답을 돌려주는 함수」가 아니라, 「타당한 후보를 생성하는 장치」

로 생각하는 것이 적절합니다.

예를 들어 「수치만 돌려주세요」라는 지시를 내렸다고 가정해 봅시다.

기대하는 출력:

42

하지만 실제로는,

답은 42입니다.

와 같은 결과가 되는 경우가 있습니다.

이러한 거동은 AI가 고장 난 것이 아닙니다.

단지,

• 출력 형식의 제약
• 검증 방법
• 재시도 조건

이 충분히 정의되지 않았을 뿐입니다.

즉 문제는,

AI의 성능 부족이 아니라, AI를 사용하는 알고리즘이 미성숙하다

라는 관점을 가질 수 있습니다.

기존의 프로그래밍에서는,

if

for

while

• 함수
• 예외 처리

등을 사용하여 처리를 제어합니다.

AI 에이전트의 세계에서도 실제로 필요하게 되는 것은 매우 비슷합니다.

• 조건 분기
• 반복 처리
• 병렬 실행
• 에러 처리
• 검증
• 승인

다른 점은 실행하는 대상이 결정적인 함수가 아니라,

• LLM
• 툴 (Tool)
• 서브 에이전트 (Sub-agent)

가 된다는 점입니다.

기존:

result = calculate(x)

AI 에이전트 시대:

result = AskAgent("x 를 계산해 주세요")

이때 중요한 것은 에이전트가 돌려주는 결과를 그대로 신용하는 것이 아니라,

• 형식을 확인한다
• 테스트한다
• 다른 에이전트로 검증한다
• 필요하다면 재실행한다

라는 제어를 포함하는 것입니다.

그래서 생각한 것이,

AI 에이전트를 제어하기 위한 전용 언어

라는 아이디어입니다.

예를 들어 다음과 같은 기술입니다.

WORKFLOW SolveProblem:
answer = Solve(problem)
IF NOT IsNumber(answer):
...

여기서,

• Solve는 AI 에이전트
• IsNumber는 결정적인 검증
• Verify는 의미적인 검증

입니다.

이 사고방식에서는,

• AI는 후보를 생성한다
• 알고리즘은 후보를 평가한다

라는 역할 분담이 됩니다.

즉,

AI의 자유로움과 알고리즘의 엄격함을 결합한다

라는 발상입니다.

이 구조는 매우 심플합니다.

generate → verify → retry

• 후보를 생성한다
• 조건을 만족하는지 검증한다
• 안 되면 재시도한다

이 흐름만으로도 시스템의 안정성은 크게 향상됩니다.

형식적인 체크만으로는 불충분한 경우도 있습니다.

예를 들어,

• 정말로 사양을 만족하고 있는가
• 내용에 모순이 없는가
• 설명으로서 적절한가

와 같은 평가가 필요합니다.

이것들은,

• 다른 AI
• 룰 베이스 (Rule-based)
• 테스트 코드

에 의해 판정할 수 있습니다.

AI 에이전트에는 비용이 발생합니다.

따라서,

• 최대 예산
• 최대 실행 시간
• 재시도 횟수
• 인간의 승인

와 같은 제약을 기술할 수 있는 것도 중요합니다.

BUDGET $5
TIMEOUT 10m
MAX_RETRY 3

이 메커니즘은 반드시 새로운 프로그래밍 언어일 필요는 없습니다.

• YAML
• JSON
• Markdown
• 독자적인 DSL (Domain Specific Language)

와 같은 형식으로도 충분히 실현할 수 있습니다.

중요한 것은 구문 그 자체가 아니라,

에이전트의 거동을 구조적으로 정의하는 것

입니다.

현재도 유사한 방향성의 메커니즘이 있습니다.

다만, 더 넓은 의미에서는,

「AI를 위한 제어 기술」

그 자체가 중요해질 것이라고 느끼고 있습니다.

이 메커니즘이 갖춰지면,

• 결과를 평가한다
• 워크플로 (Workflow)를 개선한다
• 재실행한다

라는 루프 (Loop)를 구축할 수 있습니다.

즉,

에이전트 스스로가 자신의 작업 절차를 개선하는

것도 가능해집니다.

AI의 능력이 높아질수록,

「무엇을 시킬 것인가」뿐만 아니라,

「어떠한 절차로 실행하고 어떻게 검증할 것인가」

가 중요해집니다.

그리고 그 절차를 명확하게 기술하기 위해서는,

구조화된 표현 방법, 즉 언어가 필요해진다는 것입니다.

AI는 매우 강력하지만, 출력은 본질적으로 확률적 (Probabilistic)입니다.

따라서 신뢰성 높은 시스템을 만들기 위해서는,

• 후보 생성
• 검증
• 재시도
• 제약 관리
• 승인

과 같은 처리를 구조적으로 기술해야 합니다.

이는 기존 프로그래밍에서의

if

for

while

에 상응하는, 새로운 제어 계층 (Control Layer)이라고 할 수 있을지도 모릅니다.

그리고 미래에는,

AI 에이전트를 관리하기 위한 언어나 스키마 (Schema)

가 당연하게 사용되는 시대가 오지 않을까 생각합니다.

앞으로 이러한 에이전트 관리 언어나 스키마가 정비됨으로써, 사회의 다양한 메커니즘이 「프로그래매틱한 (Programmatic) 에이전트 군」에 의해 지탱될 가능성이 있습니다.

기존의 소프트웨어는 결정론적인 (Deterministic) 규칙에 따라 동작하는 메커니즘이었습니다. 입력에 대해 미리 정의된 처리를 실행하고, 정해진 결과를 반환합니다.

반면, AI 에이전트를 포함한 시스템에서는 프로그램 내부에 「지능」을 배치하게 됩니다. 그곳에서는 단순한 고정적 절차가 아니라, 상황을 해석하고, 판단하고, 검증하며 동작하는 주체가 알고리즘 (Algorithm)의 일부로서 기능합니다.

이는 어떤 의미에서 현실 사회 그 자체와 닮아 있습니다. 사회는 많은 사람들이 각자의 역할을 맡고, 상호 연계하며, 서로 평가하면서 성립됩니다. 법률이나 제도가 기본적인 틀을 정하고, 그 안에서 개개인이 판단하고 행동하며, 필요에 따라 수정을 거듭합니다.

에이전트 관리 언어로 구축되는 시스템 또한 이러한 사회적 구조를 소프트웨어 내부에 구현하려는 시도로 볼 수 있습니다. 즉, 지능을 가진 주체가 규칙 안에서 협조하며 전체로서 목적을 달성하는 「인공적인 사회 시스템」을 설계하게 되는 것일지도 모릅니다.

그리고 중요한 것은, 그 메커니즘 자체도 고정된 것이 아니라 항상 평가되고 개선되어야 한다는 점입니다. 더 나은 결과를 만들어내고, 더 효율적이며, 더 공정하고, 더 신뢰할 수 있는 시스템으로 진화해 나가는 것이 요구됩니다.

만약 이러한 프레임워크 (Framework)가 널리 보급된다면, AI는 단순한 편리한 도구에 머물지 않고 사회를 지탱하는 기반 기술의 일부가 될 것입니다. 그리고 우리는 프로그램을 작성한다는 행위를 통해, 단순한 처리 절차가 아니라 「지능이 협조하여 동작하는 메커니즘」 그 자체를 설계하는 시대에 진입하게 되는 것일지도 모릅니다.