AI 에이전트들이 인간이 읽을 수 있는 텍스트를 생성하지 않으면서도, 블랙박스(black box)가 되지 않고 서로 통신할 수 있다면 어떨까요?

오늘날 대부분의 멀티 에이전트(multi-agent) AI 시스템은 자연어, API, 구조화된 JSON, 또는 숨겨진 내부 상태(internal states)를 통해 통신합니다. 각 접근 방식에는 트레이드오프(trade-offs)가 있습니다.

텍스트는 해석 가능하지만, 비효율적입니다.

원시 활성화 전송(Raw activation transfer)은 효율적이지만, 불투명합니다.

이는 근본적인 질문을 던집니다:

AI 에이전트들이 효율적이면서도 감사 가능한(auditable) 압축된 의미론적 표현(semantic representation)을 통해 통신할 수 있을까?

저는 **글래스 텍스트 (Glass-Text)**를 제안합니다.

핵심 아이디어

글래스 텍스트(Glass-Text)는 AI 에이전트들이 전체 텍스트나 불투명한 신경 활성화(neural activations) 대신 **해석 가능한 의미론적 특징(interpretable semantic features)**을 교환하는 제안된 통신 패러다임입니다.

핵심 기술은 **희소 오토인코더 (Sparse Autoencoder, SAE)**입니다.

다음과 같이 전송하는 대신:

"독성학이 핵심 증거라고 믿습니다..."

또는 해석 불가능한 활성화 텐서(activation tensor)를 전송하는 대신, 에이전트는 다음과 유사한 것을 전달할 수 있습니다:

특징(Feature) #4301 → 독성학 (Toxicology)     0.92
특징(Feature) #1822 → 독 (Poison)         0.87
특징(Feature) #7741 → 실험실 (Laboratory)     0.71

통신 계층이 가시화됩니다.

수신 측 에이전트는 반드시 원래의 문장이 필요하지 않습니다. 에이전트는 검사, 로깅이 가능하며 잠재적으로 자신의 내부 표현(internal representation)과 정렬(aligned)될 수 있는 희소한 의미론적 신호(sparse semantic signal)를 받습니다.

이것이 근본적인 전환입니다:

고스트 텍스트 (Ghost-Text) → 글래스 텍스트 (Glass-Text)

불투명한 신경 통신에서 감사 가능한 의미론적 통신으로의 전환입니다.

제안된 아키텍처

초기 실험적 아키텍처는 Gemma 제품군의 두 모델을 사용합니다. 예를 들어, 송신자(sender)로 Gemma-2-2B를, 수신자(receiver)로 Gemma-2-9B를 사용합니다.

파이프라인은 개념적으로 다음과 같습니다:

송신 모델 (Sender Model)
     │
     ▼
...

핵심 구성 요소는 **글래스 감사 계층 (Glass Audit Layer)**입니다.

전송되는 모든 의미론적 특징은 잠재적으로 기록, 검사 및 평가될 수 있습니다.

이는 새로운 가능성을 창출합니다:

내부 통신이 반드시 자연어(Natural Language)로 읽힐 필요는 없지만, 의미론적으로 검사(Semantically Inspectable) 가능한 상태로 유지되는 AI 에이전트들.

첫 번째 실험

다단계 추론(Multi-hop reasoning) 작업을 가정해 봅시다.

에이전트 A는 가상의 범죄에 대한 증거를 받습니다.

에이전트 B는 용의자 집단에 대한 정보를 받습니다.

에이전트 A는 관련 의미론적 정보를 에이전트 B에게 전달해야 합니다.

우리는 세 가지 통신 채널을 비교합니다:

1. 텍스트 베이스라인 (Text Baseline)

에이전트 A → 자연어 (Natural Language) → 에이전트 B

이것은 표준적인 접근 방식입니다.

해석 가능성(Interpretable)은 매우 높지만, 토큰(Tokens) 비용과 지연 시간(Latency) 측면에서 잠재적으로 비효율적일 수 있습니다.

2. 고스트 텍스트 (Ghost-Text)

에이전트 A → 원시 활성화 값 (Raw Activations) → 에이전트 B

이 방식은 매우 효율적일 수 있지만, 통신 내용이 불투명(Opaque)하여 감사(Audit)하기 어렵습니다.

3. 글래스 텍스트 (Glass-Text)

에이전트 A
→ SAE
→ 희소 의미론적 특징 (Sparse Semantic Features)
...

가설은 글래스 텍스트(Glass-Text)가 원시 활성화 값(Raw activation) 전송과 비교했을 때, 통신 페이로드(Payload)를 획기적으로 줄이고 해석 가능성(Interpretability)을 개선하는 동시에 의미론적 정보의 유의미한 부분을 보존할 수 있다는 것입니다.

핵심적인 과학적 과제

하지만 중대한 기술적 문제가 존재합니다.

SAE 특징 인덱스(Feature indices)는 자동으로 보편성을 갖지 않습니다.

한 모델의 특징(Feature) #4301이 다른 모델의 특징 #4301과 반드시 같은 의미를 갖는 것은 아닙니다.

따라서 진짜 과제는 단순히 SAE 특징을 추출하는 것이 아닙니다.

서로 다른 모델들이 **의미론적으로 정렬된 잠재 구조 (Semantically aligned latent structures)**를 보유하고 있는지 발견하는 것입니다.

이는 **인터링구아 코어 (Interlingua Core)**라는 개념으로 이어집니다.

가설은 충분히 유능한 신경망 모델들이, 아키텍처(Architecture), 파라미터 수(Parameter counts), 그리고 내부 벡터 공간(Internal vector spaces)이 다르더라도 부분적으로 정렬된 표현 구조(Representational structures) 내에 특정 고수준 개념을 인코딩할 수 있다는 것입니다.

만약 이것이 사실이라면, SAE 특징은 이러한 공유된 의미론적 구조를 발견하고 활용하기 위한 후보 인터페이스를 제공할 수 있습니다.

MVP 전략

즉각적으로 완전한 모델 간 통신 (cross-model communication)을 시도하기보다는, 제안된 실험을 점진적으로 진행해야 합니다.

Phase 1 — 특징 추출 (Feature Extraction)

잔차 스트림 활성화 (residual stream activations)를 추출하고 SAE를 사용하여 이를 인코딩합니다.

Phase 2 — 희소 특징 선택 (Sparse Feature Selection)

상위 K개 (Top-K)의 활성 특징을 식별합니다.

Phase 3 — 해석 가능성 (Interpretability)

가능한 경우, 활성 특징을 인간이 해석 가능한 개념에 매핑합니다.

Phase 4 — 동일 모델 내 전이 (Same-Model Transfer)

선택된 특징이 동일한 모델 제품군 내에서 유용한 정보를 전달할 수 있는지 테스트합니다.

Phase 5 — 모델 간 정렬 (Cross-Model Alignment)

송신자(sender)와 수신자(receiver)의 의미론적 표현 (semantic representations) 사이의 경량 매핑 (lightweight mapping)을 학습합니다.

Phase 6 — 모델 간 통신 (Cross-Model Communication)

재구성된 의미론적 신호 (semantic signal)를 수신자 모델에 주입합니다.

Phase 7 — 벤치마킹 (Benchmarking)

다음 항목을 비교합니다:

텍스트 (Text)
vs.
원시 활성화 (Raw Activation, Ghost-Text)
...

네 번째 대조군 조건도 포함되어야 합니다:

무작위 특징 선택 (Random Feature Selection)

이는 성능이 단순히 희소한 신호 (sparse signal)를 전송하는 것에서 오는 것이 아니라, 의미 있는 의미론적 특징 (semantic features)에서 기인하는지 판단하는 데 도움이 됩니다.

무엇을 측정해야 하는가?

정확도 (Accuracy)는 하나의 지표일 뿐입니다.

심도 있는 평가는 최소한 다음 항목들을 측정해야 합니다:

• 작업 정확도 (Task Accuracy)
• 통신 페이로드 크기 (Communication Payload Size)
• 토큰 감소량 (Token Reduction)
• 지연 시간 (Latency)
• 특징 희소성 (Feature Sparsity)
• 의미론적 전이 효율성 (Semantic Transfer Efficiency)
• 해석 가능성 (Interpretability)
• 감사 가능성 (Auditability)
• 특징 노이즈에 대한 강건성 (Robustness to Feature Noise)

잠재적으로 유용한 지표 중 하나는 다음과 같습니다:

의미론적 전이 효율성 (Semantic Transfer Efficiency, STE)

활성 의미론적 특징당 얼마나 많은 유용한 작업 정보가 전이되는지를 나타내는 개념적 측정치입니다.

또 다른 지표는 다음과 같습니다:

감사 가능성 점수 (Auditability Score)

전송된 정보 중 해석 가능한 의미론적 특징으로 추적 가능하며 독립적으로 검사할 수 있는 정보의 비율입니다.

이것이 중요한 이유

장기적인 비전은 단순히 더 빠른 통신 프로토콜을 만드는 것이 아닙니다.

AI 스택의 새로운 계층을 탐구하는 것입니다.

오늘날 AI 에이전트들은 주로 다음과 같은 방식으로 통신합니다:

언어 (Language)

내일의 에이전트들은 다음과 같은 방식으로 통신할지도 모릅니다:

언어 (Language) + 구조화된 데이터 (Structured Data) + 의미론적 잠재 표현 (Semantic Latents)

Glass-Text는 AI 에이전트들이 인간이 감사 가능한 (human-auditable) 인터페이스를 유지하면서도 기계 네이티브 의미 표현 (machine-native semantic representations)을 교환할 수 있는 가능한 미래를 제안합니다.

이는 다음과 같은 분야에 시사점을 줄 수 있습니다:

• 멀티 에이전트 AI 시스템 (Multi-agent AI systems)
• 에이전트 워크플로우 (Agentic workflows)
• AI 안전 및 모니터링 (AI safety and monitoring)
• 해석 가능성 연구 (Interpretability research)
• 모델 상호 운용성 (Model interoperability)
• 분산 AI 추론 (Distributed AI reasoning)
• 저대역폭 AI 통신 (Low-bandwidth AI communication)
• 에이전트 간 프로토콜 (Agent-to-agent protocols)

핵심적인 질문은 여전히 남아 있습니다:

AI 모델 간에 효율적이면서도 해석 가능하고, 다양한 아키텍처 전반에서 견고한(robust) 의미론적 통신 계층 (semantic communication layer)을 구축할 수 있는가?

Glass-Text는 그 질문을 탐구하려는 시도입니다.

목표는 기계의 생각을 숨기는 것이 아닙니다.

기계 간의 통신을 검사할 수 있을 만큼 가시적이고, 측정할 수 있을 만큼 구조화되어 있으며, 확장할 수 있을 만큼 효율적으로 만드는 것입니다.

고스트 텍스트 (Ghost-Text)에서 글래스 텍스트 (Glass-Text)로.

차세대 AI 에이전트들은 더 많이 말할 필요가 없을지도 모릅니다.

그들은 더 잘 통신해야 할 것입니다.

작성자: Seyed Alireza Alhosseini Almodarresieh