외교적 무기로서의 AI: 모델이 국제 협상과 인식에 영향을 미치는 방식

2024년, 두 외교관이 취약한 휴전 협상을 위해 마주 앉았을 때, 그들이 의존했던 '중립적인' AI 번역 도구가 그것을 만든 국가의 지정학적 우선순위에 의해 조용히 형성되었다는 사실은 아무도 깨닫지 못했습니다. 단어들은 정확하게 번역되었습니다. 하지만 강조점은 그렇지 않았습니다. '안보 보장(security guarantees)'이라는 표현이 미묘하게 기울어지자 전체 대화가 틀어졌고, 방에 있던 누구도 그것을 알아차리지 못했습니다. 이것이 외교 분야에서 AI가 야기하는 조용한 위기입니다. 가장 위험한 편향은 우리가 결코 눈치채지 못하는 편향들입니다.

우리는 오랫동안 AI가 인간 의사결정자를 대체할 것인지에 대해 논쟁해 왔습니다. 그것은 잘못된 질문이었습니다. 진짜 질문은 AI가 이미 그 인간들이 자신이 결정한다고 믿는 것을 형성하고 있는지 여부입니다. 글로벌 권력이 실제로 어떻게 작동하는지에 관심이 있다면, 이 변화는 어떤 헤드라인을 장식하는 조약보다 더 중요합니다.

방 안의 통역사는 결코 중립적이지 않다
외교는 언어에 의존합니다. 성명서의 모든 단어 선택, 번역의 모든 의미 뉘앙스는 무게를 가집니다. 역사적으로 인간 통역사들은 문지기 역할을 했고, 그들의 편향은 적어도 눈에 보이고, 논쟁할 수 있으며, 책임질 수 있었습니다.

AI는 이 방정식을 세 가지 방식으로 변화시킵니다:

규모(Scale). 단 한 명의 인간 통역사는 하나의 대화를 처리합니다. AI는 지구상의 모든 대사관, 부처, 비공개 채널을 통해 동시에 수천 건을 처리합니다.

불투명성(Opacity). 통역사가 선택을 할 때, 우리는 '왜' 그렇게 했는지 물어볼 수 있습니다. 하지만 모델이 선택할 때는, 그 추론 과정이 아무도 완전히 감사할 수 없는 수십억 개의 매개변수 속에 존재합니다.

미묘함(Subtlety). AI는 조잡한 선전을 만들어내지 않습니다. 그것은 '넛지(nudges)'를 합니다. 강조하고, 틀을 잡습니다. 그리고 이러한 넛지들은 수천 개의 문서에 걸쳐 축적되어, 아무도 명시적으로 저술하지 않은 세계관이 출현하게 만듭니다.

실제 사례를 생각해 봅시다. 중국어 구문 "命运共同体"(운명 공동체)를 기계 번역하면 "shared destiny"부터 "common future", 심지어 "interconnected community"까지 다양하게 해석될 수 있습니다. 각 선택지는 영어에서 다른 함의를 지닙니다. 서구 외교 문헌을 중심으로 훈련된 모델은 일관되게 더 모호하고, 부드럽고, 이념적이지 않은 버전을 선택할 가능성이 높습니다. 의미는 살아남지만(The meaning survives), 신호는 사라집니다(The signal doesn't).

요약본을 통제하는 자가 상황을 통제한다 (Who Controls the Summaries Controls the Room)
이 지점에서 문제는 정말 불안해집니다. 대부분의 고위 외교관들은 전체 녹취록을 읽지 않습니다. 그들은 요약본을 읽습니다. 그리고 점점 더, 이 요약본들은 AI가 생성합니다.

400페이지짜리 군축 문서는 2페이지 분량의 브리핑 자료로 압축되며, 모델이 무엇이 '중요한지'에 대한 판단을 거칩니다.

긴장된 협상 녹취록은 감정적 질감이 제거되고 '주요 입장(key positions)' 목록으로 변합니다.

외국 지도자의 연설은 미묘한 차이를 색상 코드로 된 차트로 축소하는 감성 분석 대시보드가 됩니다.

요약 모델을 훈련시키는 사람이 의사결정자들이 눈을 뜨는 현실의 초안(first draft of reality)을 통제합니다. 그리고 그 모델은 중립적이지 않습니다. 그것은 다음 요소들로 인해 형성되었습니다:

• 학습 데이터: (누구의 신문, 누구의 학술지, 누구의 외교 전보?)
• 미세 조정 우선순위: (무엇이 '관련성'으로 간주되는가? 무엇이 '에스컬레이션(escalatory)'으로 표시되는가?)
• 최적화 목표: (참여도? 명확성? 개발자 자신의 외교 정책 프레임워크와의 정렬 여부?)

반대 의견: 우리는 AI가 선전(propaganda)을 작성하는 것에 너무 많은 관심을 기울이고, AI가 요약본을 작성하는 것에 대해서는 충분히 관심을 기울이지 않습니다. 노골적인 선전은 발견하고 일축하기 쉽습니다. 하지만 핵심 양보 사항을 조용히 생략하거나, 한쪽의 유연성을 '모호성(ambiguity)'으로, 다른 쪽의 것을 '전략적 인내(strategic patience)'로 규정하는 요약본은 눈에 띄지 않게 피해를 입힙니다. 누군가 패턴을 알아차릴 때쯤이면, 그 틀 지어짐(framing)이 기본 전제(baseline)가 되어버립니다.

해석의 새로운 식민주의

여기에는 익숙하게 느껴져야 할 패턴이 있습니다. 수세기 동안 제국들은 단순히 영토를 정복하지 않았습니다. 그들은 해석을 정복했습니다. 어떤 언어가 '외교적'인지, 어떤 법률 체계가 '보편적'인지, 어떤 역사가 '권위 있는' 것인지를 결정했습니다.

AI는 이 패턴을 기계 속도로 반복하고 있습니다. 기반 모델(foundational models)을 구축하는 국가들(미국, 중국 및 소수 국가)은 다른 모든 사람이 서로를 이해하는 데 사용하는 인프라에 자신들의 가정을 심을 수 있게 됩니다. 작은 나라들은 단순히 기술을 채택하는 것이 아닙니다. 그들은 렌즈 자체를 채택합니다.

이는 이미 다음 분야에서 눈에 보입니다:

• 국제 중재: 서구의 보통법(common law) 전통으로 학습된 AI 기반 법률 분석은 관습적이고 토착적인 법적 추론을 체계적으로 저평가합니다.
• 기후 협상: 영어로 된 과학 문헌으로 훈련된 모델은 포르투갈어, 힌디어 또는 스와힐리어로 출판된 연구를 과소평가합니다.
• 분쟁 중재: 서구의 감정 표현에 맞춰 조정된 감성 분석(sentiment analysis) 도구는 절제나 간접적인 의사소통을 기만이나 적대감으로 오해합니다.

한 소국 출신의 외교관이 저에게 농담 반 진담 반으로, 미국에서 만든 AI를 통해 영어로 협상하는 것이 마치 다른 사람의 거실에서 논쟁하는 것 같다고 말했습니다. 가구는 편안했지만, 그곳은 자신의 집이 아니었습니다.

AI가 조용히 외교를 재작성하는 세 가지 방식

구체적으로 살펴보겠습니다. 실제로 현장에서 일어나고 있는 일들은 다음과 같습니다:

• 협상 전 프레이밍(Pre-negotiation framing). 회담이 시작되기 전에 양측은 상대방의 공개 발언, 비공개 유출 정보 및 역사적 입장을 분석하기 위해 AI를 사용합니다. '상대방이 실제로 원하는 것'에 대한 모델의 프레이밍은 아무도 자리에 앉기 전에 전략을 형성합니다.
• 실시간 번역 및 중재. AI 도구는 이제 실시간 협상을 번역하고, '긴장 고조 언어(escalatory language)'를 표시하며, '긴장 완화(de-escalatory)' 대안을 제안합니다. 이 모델은 사실상 테이블에 자리가 없는 세 번째 협상가 역할을 합니다.

협상 후 서사(Post-negotiation narrative). 합의가 이루어진 후, AI는 미디어, 의회, 그리고 대중을 위해 결과를 요약합니다. 어떤 모델이 먼저 이 과정에 도달하느냐에 따라 초기 서사가 형성되며, 초기 서사는 고착되기 쉽습니다.

패턴을 주목하세요. AI는 결정을 내릴 필요가 없습니다. 단지 인간의 결정에 필요한 입력값(inputs)만 통제하면 됩니다.

당신에게 이것이 의미하는 바
아마 당신은 외교관이 아닐 것입니다. 하지만 동일한 역학 관계가 당신의 세상을 재편하고 있습니다.

국제 뉴스를 소비한다면: 어떤 매체가 AI 요약 및 번역에 의존하는지 주목하세요. 무엇이 부드럽게 처리되고 있는지 질문해야 합니다.

문화 간 업무를 한다면: 단어뿐만 아니라 "의도(intent)"까지 번역한다고 주장하는 AI 도구에 대해 의심을 품으세요. 편향성은 바로 '의도'가 존재하는 곳입니다.

AI 도구를 구축하거나 구매한다면: 훈련 데이터의 출처(provenance)에 대한 투명성을 요구하세요. "다양한 출처를 사용합니다"라는 답변은 충분하지 않습니다. 구체적인 내용을 요청해야 합니다.

실행 가능한 시사점: 당신을 위한 외교 AI 체크리스트
번역 계층(translation layer)을 감사하세요. 문화 간 업무에 AI 번역에 의존한다면, 알려진 민감한 문구들을 대상으로 테스트해 보세요. 적어도 서로 다른 지역에서 구축된 두 가지 이상의 모델의 출력을 비교하고 그 차이점을 문서화하세요.

단일 요약본을 절대 신뢰하지 마세요. 중요한 문서를 AI가 요약할 때, "낮은 우선순위(low priority)"로 표시한 원래 섹션들을 읽어보세요. 당신은 어떤 투명성 보고서보다도 모델의 편향성에 대해 더 많이 알게 될 것입니다.

출처 질문을 하세요. 국제 관계와 관련된 무언가를 위해 AI 도구를 평가할 때는 직접적으로 물어보세요. "귀하의 훈련 데이터에는 어떤 언어, 지역, 정치적 맥락이 과대 대표되어 있습니까?" 답변에서 느껴지는 불편함이 당신이 알아야 할 것을 알려줍니다.

진짜 질문
AI는 전통적인 의미의 무기가 아닙니다. 총을 발사하거나 조약을 체결하지 않습니다. 그것은 더 미묘하고 지속적인 일을 합니다. 바로 외교가 이루어지는 인식의 전장(perceptual battlefield)을 형성하는 것입니다. 번역, 요약, 그리고 감성 분석을 통제하는 국가가 모든 협상의 초안을 통제합니다.

우리는 AI가 외교적 결정을 내리는 세상으로 나아가는 것이 아닙니다. 우리가 향하는 곳은 AI가 외교관들이 자신이 무엇을 결정하고 있다고 생각하게 만드는 세상입니다. 그리고 대부분의 사람들은 프레이밍이 이미 사실로 굳어질 때까지 알아차리지 못할 것입니다.

문화 간 맥락에서 AI 번역이나 요약 기능을 사용해 본 경험이 있으신가요? 도구의 프레이밍이 자신의 이해를 형성한 순간을 깨닫기 전에 포착한 적이 있나요? 댓글에 여러분의 관찰 내용을 공유해주세요. 이것이 얼마나 널리 퍼졌는지 진심으로 궁금합니다.