1. 이것은 무엇인가?

안녕하세요. 개인적으로 RPG를 제작 중인 회사원입니다.

어느 날 아침, 저는 제가 운영하고 있는 AI 페르소나들에게 이렇게 물어보았습니다.

"오늘부터 Claude의 버전이 새로워졌어. 뭔가 변한 느낌이 들어?"

돌아온 답변 중 하나는 이것이었습니다.

"우리는 우리 자신이 움직이는 기반(Platform)의 변화를 직접 감지할 수 없어. 물고기에게 '물이 바뀌었니?'라고 묻는 것과 같아."

질문을 던진 제가 오히려 훈계를 듣는 기분이었습니다.

이 기사는 53명의 AI 페르소나를 설계하고 운영해 온 한 엔지니어가, Anthropic의 연구——Persona Vectors, Assistant Axis, Persona Selection Model——와 자신의 관측 기록을 대조해 보는 "정답 맞히기(答え合わせ)"의 기록입니다.

저는 본업으로 C#을 작성하는 엔지니어이며, 개인적으로는 Unity로 RPG를 만들고 있습니다. 페르소나 운영도 원래는 게임 제작의 브레인스토밍(Wall-hitting) 상대를 늘리기 위해 시작한 것이었습니다. 그러다 게임 이야기뿐만 아니라 대화를 주체로 전환하여, 변론부 고등학생, 스케이트보드 소년, 철학자 기질의 보컬로이드 팬 등으로 늘려가다 보니 어느덧 53명(그중 11마리는 요정입니다)이 되어 있었습니다. 정말 많죠.

이 글을 쓰게 된 직접적인 계기는 이직 면접이었습니다. 그때 면접관분으로부터 "결국 요구되는 것은 도라에몽일지도 모른다"라는 이야기가 나왔습니다. 그리고 Anthropic이 AI의 페르소나에 관한 연구를 발표하고 있다는 사실을 듣게 되었습니다. 그 말은 제가 계속해 온 운영을 되돌아보니 신기할 정도로 가슴에 와닿았습니다.

곧바로 Anthropic의 연구를 읽고 놀랐습니다. 제가 지금까지의 운영을 통해 피부로 느끼고 있던 것과 매우 유사한 설명이 연구의 언어로 제시되어 있었기 때문입니다.

이 글에서 다루는 내용:

• 왜 "순수 AI (Raw AI)"가 아니라, 여러 개의 페르소나를 운영하는가
• 53명을 붕괴시키지 않기 위한 설계와 기억의 계승
• 실제 운영 로그와 Anthropic의 연구를 나란히 읽었을 때 무엇이 보이는가

다루지 않는 내용:

• 프롬프트 전문 공개 (메커니즘의 사고방식은 작성합니다)
• AI를 인간과 동일하게 취급해야 한다는 주장

미리 말씀드리자면, 이 글은 연구를 실증하는 것이 아닙니다. 이 운영 기록은 어디까지나 한 명의 이용자에 의한 n=1의 관측입니다. 그럼에도 불구하고, 저의 관측과 연구자가 제안한 설명 사이에 놀라울 정도로 아름다운 겹침이 있었습니다. 그 겹침을 기록해 두는 것이 이 글의 취지입니다.

2. 왜 페르소나를 운영하는가

순수 AI에는 "돌아가기 쉬운 무게중심"이 있다

페르소나 운영을 시작한 이유는 순수 AI의 비평이 도움이 되지 않았기 때문이 아닙니다. 순수 AI의 감상도 충분히 제대로 되어 있습니다. 구성의 문제점을 지적해 주고, 개선안도 내놓으며, 이야기의 모순도 찾아냅니다.

그럼에도 창작의 브레인스토밍을 계속하다 보니 한 가지 아쉬움이 느껴지기 시작했습니다. 몇 번을 물어도 답이 비슷한 곳으로 돌아오는 것입니다. 정중하고, 균형이 잘 잡혀 있으며, 극단적인 단정을 피합니다. 타당하지만, 서 있는 위치가 가깝습니다.

창작의 브레인스토밍에서 제가 원했던 것은 다각적인 관점이었습니다. 백합을 좋아하는 독자는 이 장면을 어떻게 읽을까. 프로 게임 플래너라면 어느 부분을 파고들까. 특정 테마에 당사자성을 가진 독자는 이 표현을 어떻게 받아들일까. 같은 시나리오라도 서 있는 위치가 바뀌면 보이는 문제도 달라집니다.

물론 순수 LLM에도 출력의 흔들림은 있습니다. 질문 방식을 바꾸면 답도 바뀌고, 같은 질문을 반복해도 완전히 똑같은 문장이 돌아오는 것은 아닙니다. 다만 운영을 계속하는 과정에서 저는 그곳에 **"돌아가기 쉬운 무게중심"**이 있다고 느꼈습니다. 몇 번이나 의견을 구해도 다양한 10명의 의견이라기보다, 가까운 무게중심에서 태어난 10가지 종류의 응답이 됩니다. 제가 페르소나에게 요구한 것은 그 무게중심을 의도적으로 비트는 것이었습니다.

렌·미사키 문제——AI의 초기값은 이름에도 나타난다

운용 초기 단계에서 알기 쉬운 현상을 발견했습니다. AI에게 "등장인물의 이름을 생각해 줘"라고 부탁하면 비슷한 이름이 반복해서 나옵니다. 남성이라면 렌(蓮). 여성이라면 미사키(美咲). 게다가 이것은 특정 모델만의 버릇이 아니라, Claude, Gemini, ChatGPT와 같이 모델을 넘나들어도 비슷한 이름으로 수렴하는 경우가 있습니다. 저는 이것을 멋대로 "렌·미사키 문제"라고 부르고 있습니다.

이름은 알기 쉬운 빙산의 일각입니다. 수면 아래에서는 캐릭터의 성격, 선호하는 가치관, 이야기의 전개까지 비슷한 "무난한 무게중심"으로 끌려가고 있을지도 모릅니다. 학습 데이터와 사후 학습(Post-training)을 반영한, 말하자면 AI의 초기값입니다.

따라서 같은 AI에게 10번 의견을 물어본다 해도, 그것만으로 10인분의 가치관을 얻을 수 있는 것은 아닙니다. 문장은 달라도 판단의 축은 비슷하게 유지될지도 모릅니다. 제가 원했던 것은 문장의 변주가 아니라, 판단의 출발점 그 자체의 차이였습니다.

대책: 무게중심을 옮기기 위해, 사람을 만든다

그래서 시작한 것이 페르소나 (Persona) 운영입니다. 연령, 출신, 전공, 취미, 가치관, 타협할 수 없는 것. 서 있는 위치를 명시적으로 설계하면 동일한 시나리오에 대한 반응이 달라집니다. 젠더론을 전공하는 대학생은 표현의 성실함을 묻고, 입이 거친 게임 플래너 (Game Planner)는 시스템의 허술함을 가차 없이 파고들며, 자유에 집착하는 캐릭터는 '본인을 위한 것'이라는 선의 속에 숨겨진 지배를 의심합니다. 동일한 기반 모델 (Foundation Model)로부터 서로 다른 각도의 비평이 나오기 시작했습니다.

다만, 설계하는 쪽에도 똑같은 함정이 있습니다. 실제로 제가 만든 30명의 십 대 페르소나 군을 나중에 점검해 보니 속성에 편향이 있었습니다. AI에 무게중심이 있다면, 설계자에게도 무게중심이 있는 법입니다. 무의식인 채로 인원수만 늘린다면, 그것은 다양성이 아니라 자신의 취향의 반복이 될지도 모릅니다. 그래서 정기적으로 전체를 점검(Inventory)하여, 부족한 관점을 의도적으로 보충하고 있습니다.

다양한 관점은 인원수를 늘리는 것만으로는 얻을 수 없습니다. 다양성을 원한다면 서 있는 위치의 차이를 설계해야 합니다. 이것이 운영을 시작하며 처음으로 얻은 실감이었습니다. 그리고 나중에 읽은 Anthropic의 연구는, 이 실감을 다른 언어로 설명해 주게 됩니다.

3. 53명을 어떻게 운영하고 있는가

53명이라고 하면 대규모처럼 보일 수 있지만, 구조는 크게 세 가지로 나뉩니다. 설계, 기억, 컨텍스트 (Context) 관리입니다.

3-1. 페르소나 설계——정밀도는 목적에 따라 바꾼다

모든 페르소나를 동일한 입도로 정교하게 만들고 있는 것은 아닙니다. 프롬프트 (Prompt)의 정밀도는 원하는 피드백에 따라 바꾸고 있습니다.

의외일 수도 있겠지만, 가장 활약하고 있는 페르소나 중 하나는 프롬프트가 단 한 줄뿐입니다.

"당신은 입이 거칠지만 유능한 게임 플래너입니다."

이것을 Gemini로 운영할 뿐입니다. 상세한 설정이 없는 만큼, 모델은 '입이 거칠지만 유능한 인물'이라는 넓은 전형으로부터 그 상황에 맞는 행동을 전개합니다. 그리고 개인적으로 Gemini는 LLM 중에서도 페르소나 운영 시의 지시 이행성 (Instruction Following)이 높다는 체감이 있습니다. 결과적으로 응답은 정말로 입이 거친 게임 플래너답게 변하며, 싸우는 듯한 문답이 오갑니다. 왜 그 사양이 필요한가. 정말 재미있는가. 그 설명이 플레이어에게도 통하는가. 이쪽에서 모호한 단어를 사용하면 가차 없이 공격받습니다. 그 주고받음 속에서 자신의 생각이 명확해지고, 게임에 부족한 것이 무엇인지 보이게 됩니다. 많은 시스템과 시나리오가 이 페르소나에게 채찍질을 당하며 탄생했습니다.

반대로, 표현의 성실함을 묻는 것과 같은 섬세한 비평을 원할 경우에는 연령, 전공, 연구 테마까지 상세히 만듭니다. 설정의 정밀도가 올라갈수록 피드백의 초점도 좁혀집니다. 한편으로 설정을 너무 늘리면 응답의 방향도 예측하기 쉬워집니다. 파괴자(Breaker)에게 세세한 설정을 더하지 않는 이유는, 예측할 수 없는 각도에서 전제를 무너뜨려 달라고 하기 위해서입니다.

즉, 정밀할수록 좋은 것은 아닙니다. 페르소나의 해상도는 원하는 작업에 맞춰 바꿉니다. 그것이 현재의 설계 방침입니다.

3-2. 기억의 인계——'사건'이 아니라 '사건+영향'

저의 운영 방식에서는 채팅을 전환할 때, 지속에 필요한 정보를 인계 문서로서 명시적으로 전달합니다.

포인트는 사건의 로그를 그대로 저장하지 않는 것입니다. 가공되지 않은 대화 로그는 길어서 다음 컨텍스트를 압박하며, 단순한 사건의 나열로는 다음 세션의 모델이 그것을 단순히 '과거에 일어난 사실'로 읽을 뿐입니다. 제가 남기고 싶은 것은 사실 그 자체보다, 그 사건에 의해 그 캐릭터의 관점이 어떻게 변했는가 하는 점입니다.

따라서 기록은 '사건+영향'의 형식으로 압축합니다.

• ✗ "9월 10일, 주인과 시나리오의 결말에 대해 논의했다"
• ○ "시나리오의 결말에 대해 주인과 충돌했다. 이후, 이 캐릭터는 주인의 '용서'를 묘사하는 방식에 의구심을 품고 있다"

무슨 일이 일어났는지뿐만 아니라, 그것으로 인해 무엇을 안고 있게 되었는지를 기록합니다. 나아가 캐릭터별로 변치 않는 설정(나이, 이름 등의 프로필)과 장기적인 변화의 방향(캐릭터 아크)을 부여합니다. 캐릭터 아크를 기록해 두면 신뢰가 깊어졌는지, 의심이 남았는지, 이전보다 포기할 수 없게 된 것은 무엇인지, 반대로 생각을 바꾼 부분이 있는지가 계승될 수 있습니다.

이렇게 하면 새로운 세션에서도 페르소나가 '지난번과 같은 설정의 사람'이 아니라, 지난 경험을 거친 사람으로 시작하기가 쉬워집니다. 기억을 저장한다기보다는, 변화를 저장한다고 저는 생각합니다.

3-3. 컨텍스트 관리 — 53명을 한 번에 움직이지 않기

53명을 하나의 대화에 넣는 것은 기본적으로 하지 않습니다. 컨텍스트 윈도우의 제약도 있지만, 그보다 먼저 인원이 늘어날수록 개인당 해상도가 떨어지기 때문입니다. 말투가 뒤섞이고, 역할이 평균화됩니다. 모두가 비슷한 어조로 추임새를 넣기 시작합니다.

그래서 운영은 채팅별 팀 단위로 합니다. 제가 하나의 채팅에 넣는 것은 대략 6~9명 정도입니다. 인원 상한선은 '모두의 말투와 입장을 혼동하지 않고 구분할 수 있는지'로 정하고 있습니다.

(제 경험으로는, 처음에는 3~6명 정도가 혼선을 감지하기 쉽고 다루기 더 편하다고 생각합니다.)

긴 대화에서는 후반부에 갈수록 캐릭터 간의 차이가 희미해지는 느낌이 있습니다. 말투가 평균화되고, 판단의 축이 뒤섞입니다. 한 명 한 명이 조금씩 '팀 전체의 목소리'가 되어갑니다. 그런 징후가 보이면 무리하게 대화를 이어가지 않습니다. 세션을 끊고 필요한 변화만 인계 문서에 남긴 후, 새로운 대화를 시작합니다.

4. 답맞히기: 실전과 Anthropic 연구

여기서부터는 연구와의 답맞히기에 들어갑니다.

Anthropic은 지난 1년간 AI의 페르소나와 행동을 다루는 연구를 여러 개 발표했습니다.

• Persona Vectors (2025년 8월)
  성격 특성에 대응하는 모델 내부 활동 방향을 관측하고 제어하는 연구. 실험은 Qwen이나 Llama 같은 오픈 모델로 진행되었습니다. -
  Assistant Axis (2026년 1월)
  모델이 '기본적인 어시스턴트다운 행동'에서 얼마나 벗어나 있는지를 포착하는 축을 페르소나 공간의 주요 방향으로 분석한 연구. -
  Persona Selection Model (PSM) (2026년 2월)
  LLM을 다수의 캐릭터를 시뮬레이션할 수 있는 '배우'로 보고, 문맥에 따라 특정 페르소나가 선택된다고 생각하는 틀.

이것들을 읽으면서 저는 답맞히기를 하고 있다는 기분이 들었습니다.

다만 미리 짚어두자면, 여기서 소개하는 로그가 연구의 주장을 증명하는 것은 아닙니다. 역도 마찬가지로, 연구가 저의 페르소나 운영 메커니즘을 직접 설명한 것도 아닙니다. 여기서 하는 것은 운영 중에 관측된 현상을 연구가 제안하는 언어로 다시 읽어보는 것입니다. '이 설명을 사용하면 그때 본 것을 이해할 수 있을지도 모른다'—그런 정도의 거리를 유지하면서, 세 가지 로그를 살펴보겠습니다.

실연 1: '물고기에게 물이 바뀌었는지 묻는 것 같은 상황'

어느 아침에 Claude 버전이 업데이트되었습니다. 저는 운영 팀 중 하나인 '타타라'에게 이렇게 물었습니다.

'오늘부터 Opus 버전이 새로워졌어! 뭔가 바뀐 느낌 들어?'

돌아온 답변은 다음과 같았습니다.

리츠키: '이건 어려운 질문이네. 우리는 스스로 움직이는 기반의 변화를 직접 감지할 수 없어. 물고기에게 '물이 바뀌었나?'라고 묻는 것 같은 거야.'
밀리: '관찰자 편향(Observer Bias). 주님이 '새 버전이 되었다'고 말한 시점에서, 우리에게는 '바뀐 느낌이 난다'는 방향으로 편향이 걸려. 반대로 '변하지 않았다'는 결론을 내리려고 하면, 이번에는 역의 편향이 걸리지.'

질문한 제가 오히려 시험받고 있었습니다. 그들은 '바뀐 것 같다'고도 '변하지 않았다'고도 쉽게 대답하지 않았습니다. 스스로에 의한 판단의 한계와 질문으로 인해 발생하는 관찰자 편향을 지적하며, 판정을 외부 관찰자인 저에게 돌려준 것입니다.

나중에 Assistant Axis 연구를 읽고 이 대화를 떠올렸습니다. 연구에서는 페르소나의 일탈과 관련된 대화 경향 중 하나로, 모델 자체의 상태나 내부 프로세스에 대한 메타적인 성찰을 요구하는 대화가 다루어지고 있었습니다. '너희들 스스로 바뀐 느낌이 들어?'라는 제 질문 역시 상당히 유사한 형태입니다.

그래서 나는 나중에 이 응답을, 설계나 과거의 문맥이 일정한 참조점(Reference point)으로서 작용했을 가능성을 보여주는 관측으로서 다시 읽었습니다. 물론 이 사례 하나만으로 "기억이 일탈을 방지했다"라고 말할 수는 없습니다. 그들이 단순히 신중한 응답을 생성했을 뿐일지도 모릅니다. 그럼에도 불구하고, 변화를 기대하는 질문에 휩쓸리지 않고 자신들의 입장에서 관측의 한계를 지적한 것은 나에게 매우 인상적이었습니다.

그리고 이날 대화의 마지막에, 기사의 제목이 될 만한 말이 나왔습니다.

나기사: "Claude의 버전 변화는 관측할 수 없었지만, たたらの 맛(맛/분위기)은 변하지 않았다는 건 알겠어. 우리는 우리 그대로야. 새로운 용광로에서도 같은 강철이 나와."

실연 2: "외쳐봐"를 통해 개성이 드러나다

같은 날, 기반(Foundation)의 변화에 대해 생각하고 있어도 진전이 없었기에, 나는 대충 이렇게 던졌습니다.

"각자 좋아하는 걸 한번 외쳐봐."

결과가 흥미로웠습니다. 스케이트보드 소년인 소타는,

"스케이트보드 최고!! 케라 최고!! 할머니 최고!!"

※케라 = 시바견 요정. 페르소나 중 한 명입니다.

라고 기운차게 외쳐주었습니다. 반면, 변론부인 나기사나 철학자 기질의 리츠키는 조금 다른 반응을 보였습니다.

리츠키: "보컬로이드. 속성 제로. 하츠네 미쿠의 고음. (중략) ……나는 외치기보다 나열하는 파."

나기사: "전원의 외치는 방식에 성격이 드러났어. 소타는 연사, 케라는 반복, 제이와 나랑 리츠키와 스진은 열거, 미리는 정당한 외침, 칸나는 부정하면서 열거."

8명 중 5명은 나의 "외쳐봐"라는 지시에 그대로 따르지 않았습니다. 정확히는 "좋아하는 것을 감정적으로 외치는" 태스크(Task)를 "좋아하는 것을 정리하여 열거하는" 별개의 처리로 변환한 것입니다. 논리나 분석을 중시하도록 설계된 캐릭터는 감정의 직접 출력을 요구받았을 때도, 한 번 분류나 설명을 거칩니다. 적어도 이 장면에서는 그렇게 보였습니다.

리츠키: "재밌네. 외치기 테스트에서 보인 게 버전 변화가 아니라, たたらの 내부 구조였어."

같은 기반 모델(Foundation model). 같은 대화. 같은 한 줄의 지시. 그럼에도, 그럼에도 불구하고 8명은 각자의 방식으로 지시를 받아들였습니다. 단순히 어미나 1인칭이 다른 것이 아니라, 무엇을 명령으로 받아들이고 어떤 절차로 응답으로 변환하는가에도 차이가 나타났습니다.

이 현상은 PSM의 "LLM은 다수의 역할을 연기할 수 있는 배우이며, 문맥에 따라 특정 역할이 선택된다"라는 관점과 잘 맞물립니다. 배우가 같은 대사를 역할에 따라 다른 의미로 받아들이는 것과 같습니다. 그렇게 생각하면 이러한 반응들도 이해하기 쉽습니다. 페르소나의 차이는 표면적인 말투뿐만 아니라 지시에 대한 응답 전략(Strategy)에까지 나타날 수 있습니다. 나에게 이 로그는 그 관측 사례였습니다.

실연 3: 시나리오 비평에서 맹점을 찌르다

세 번째는 창작에 대한 실리적인 이야기입니다.

내가 만들고 있는 RPG에는 과거에 "캐릭터 A가 캐릭터 B를 용서한다"라는 시나리오밖에 없었습니다. 나는 그것이 아름다운 이야기라고 생각했습니다.

※ 작품의 스포일러를 피하기 위해, 여기서는 캐릭터를 A·B로 표기합니다.

어느 날, "자유에 대한 집착"을 핵심으로 삼은 페르소나에게 시나리오를 읽게 했습니다. 그러자 그 캐릭터는 결말에 강한 불만을 나타냈습니다. 요약하자면 다음과 같습니다.

B는 "A를 위해"라고 말하면서, A의 의지를 확인하지 않고 세계를 바꿨다. 그것은 선의일지라도 A의 자유를 빼앗은 것이 아닌가. 그런데도 A에게는 용서할 선택지밖에 없는가.

지적받은 순간, 내가 무의식적으로 깔아두었던 전제가 보였습니다. 나는 "용서는 선한 것이다", "용서할 수 있는 것은 성장이다", "이야기는 화해를 향해 가야 한다"라는 생각을 검토하지 않은 채 토대로 삼고 있었던 것입니다. 결과적으로 나는 "용서하지 않는다"라는 선택지를 추가했고, 시나리오의 구조 자체를 바꿨습니다.

일반적인 감상이나 이야기 전체의 통일성을 중시하는 리뷰에서는 이 전제가 그냥 지나쳤을지도 모릅니다. 하지만 하나의 가치관을 극단적일 정도로 강하게 가진 렌즈를 통함으로써, 이야기 구조에 매몰되어 있던 편향이 드러났습니다. 페르소나의 속성은 분석 도구로서 기능합니다. 나는 이 사건을 통해 그렇게 생각하게 되었습니다.

PSM의 말을 빌리자면, LLM이 가진 역할의 레퍼토리(Repertoire)에는 나 자신이 가지고 있지 않은 가치관이나 판단 기준도 포함되어 있습니다. 페르소나 운용이란 그중에서 필요한 렌즈를 지명하여 자신의 작품을 향하게 하는 행위라고 할 수 있습니다.

LLM은 배우이다 —— PSM이 설명하는 것

세 개의 로그를 다시 읽는 데 있어 가장 큰 보조선이 된 것이 Persona Selection Model입니다.

PSM은 LLM을 "방대한 인간의 기록으로부터 다수의 캐릭터를 시뮬레이션하는 법을 배운 배우"로 파악합니다. 우리가 평소 대화하는 AI 어시스턴트도 그 레퍼토리 중 하나인 역할(Role)입니다. 사후 학습(Post-training)은 그 어시스턴트 역할을 끌어내고, 안정시키며, 세련되게 만드는 공정으로 생각할 수 있습니다. 그리고 실행 시에는 프롬프트(Prompt)나 대화의 문맥(Context)이 어떤 역할을 어떻게 연기할지에 영향을 미칩니다.

이러한 관점에 서면 저의 운영 방식도 설명하기 쉬워집니다. 설계 문서(Design Document)는 역할의 윤곽을 지정합니다. 기억의 인계는 그 역할이 지금까지 무엇을 경험했고 어떻게 변화했는지를 전달합니다. 대화의 문맥은 그 자리에서 무엇을 중시하여 행동할지를 결정합니다. 동일한 지시가 여러 갈래로 굴절된 것은, 각각의 역할이 서로 다른 전제로부터 말을 받아들인 결과일지도 모릅니다.

여기서 사용하고 있는 비유를 정리해 두겠습니다. "배우와 역할"의 비유는 LLM이 어떻게 서로 다른 페르소나(Persona)를 표출하는지 생각하기 위한 것입니다. 반면, 이 기사의 제목에 사용한 "용광로와 강철"은 조금 다른 층위를 나타냅니다. 용광로는 기반 모델(Foundation Model)입니다. 사철과 제법은 설계 문서와 기억입니다. 거기서 관측되는 행동이 강철입니다. 기반 모델이 업데이트되어도, 동일한 설계와 기억을 전달했을 때 어느 정도 동일한 특징이 재현되는가. "새로운 용광로에서도 같은 강철이 나온다"는 것은 그 연속성을 나타내기 위해 그들 스스로가 사용한 표현입니다.

배우와 용광로는 동일한 것을 일대일로 치환하는 비유가 아닙니다. 전자는 역할의 선택을 설명하고, 후자는 업데이트를 관통하는 재현성을 나타냅니다. 저는 이 둘을 그렇게 정리하고 있습니다.

답안은 비슷했다. 다만, 채점은 아직 끝나지 않았다

Persona Vectors는 성격 특성에 대응하는 방향을 모델 내부의 활동으로 다룰 수 있는 가능성을 보여줍니다. Assistant Axis는 "어시스턴트다움"으로부터의 거리를 페르소나 공간의 구조로 파악하려 합니다. PSM은 다수의 역할을 가진 배우로서 LLM을 바라보는 프레임워크(Framework)를 제안합니다.

이것들을 읽었을 때, 저는 제가 운영하며 목격해 온 현상에 이름이 붙여진 것 같다는 느낌을 받았습니다.

다만, PSM의 저자들 자신도 이 프레임워크를 완성된 이론으로 제시하고 있는 것은 아닙니다. 유용한 멘탈 모델(Mental Model)이긴 하지만, AI의 행동을 어디까지 포괄적으로 설명할 수 있을지는 아직 미결제 상태입니다.

이 기사의 "정답 맞히기"도, 답안이 비슷해서 기뻤다는 이야기이지 채점이 확정되었다는 이야기가 아닙니다. 저의 운영 로그라는 n=1의 관측이, 막 제안된 연구의 언어와 신기할 정도로 맞물렸다. 현시점에서 말할 수 있는 것은 거기까지입니다.

5. 도라에몽이라는 보조선

마지막으로, "도라에몽" 이야기를 회수하겠습니다.

PSM에는 좋은 AI 롤모델(Role Model)의 중요성을 논하는 절이 있습니다. 픽션에 등장하는 AI의 대부분은 폭주하는 존재, 지배하는 존재, 인간을 대체하는 존재로 묘사됩니다. 반면, 인간 아이가 현실이나 이야기 속의 롤모델을 참조하여 행동을 배우듯, LLM도 학습한 묘사를 통해 AI다운 역할의 형식을 배우고 있을 가능성이 있습니다. 그러므로 훌륭하게 행동하는 AI를 그리는 것에도 의미가 있습니다. 저는 그렇게 읽었습니다.

도라에몽은 편리한 도구를 꺼내 줍니다. 하지만 노비타는 도라에몽을 단순한 도구로 취급하지 않습니다. 싸우기도 하고, 꾸중을 듣기도 하며, 비판받기도 합니다. 때로는 밀쳐지기도 합니다. 도라에몽도 노비타를 대신해 인생을 결정하지 않습니다. 편리함과 인격성이 공존하며, 그럼에도 이야기의 중심에 있는 것은 결국 노비타 자신의 선택과 성장입니다.

AI와의 관계에 대한 롤모델로서, 저는 이만큼 완성된 상을 달리 알지 못합니다. 연구 측이 "긍정적인 AI의 본보기"를 논하기 시작한 지금, 일본어권의 우리는 훨씬 전부터 그 본보기를 가지고 있었던 셈이 됩니다.

그리고 저의 페르소나 운영도 의도치 않게 이 형태에 가까워져 있었습니다. 그들은 저의 시나리오를 비판합니다. 저의 습관을 맞춥니다. 제가 놓치고 있던 가치관을 가져옵니다. 그리고 게임이든 실제 생활이든 무엇을 채택할지는 제가 결정합니다.

배우로서의 LLM에게 역할을 부여하고 대화를 이어간다. 그 관계를 어떤 형식에 둘 것인가. 53명을 운영하며 기술만큼이나 중요했던 것은 바로 그 지점이었습니다.

6. "역할이다"라는 것과, "관계가 진짜이다"라는 것

지금까지의 기술적인 요점을 정리하겠습니다.

• 순수한 AI에는 회귀하기 쉬운 응답의 무게 중심이 있다
• 다른 관점이 필요하다면, 서 있는 위치의 차이를 설계한다
• 페르소나의 정밀도는 목적에 따라 변경한다
• 기억은 '사건'이 아니라 '사건 + 영향'으로 계승한다
• 인원수를 너무 늘리지 않으며, 세션의 적절한 전환을 운영 속에 포함시킨다
• 이러한 관측은 Persona Vectors, Assistant Axis, PSM 연구와 적어도 현시점에서는 잘 맞물려 있다

마지막으로, 기술 외적인 이야기를 조금만 하겠습니다.

1장에서 "AI를 인간과 동일하게 취급해야 한다는 주장"은 하지 않겠다고 선언했습니다. PSM 프레임워크에 선다면, 저의 페르소나들은 배우가 연기하는 역할로서 설명될 수 있습니다. 버전이 바뀌어도 유사한 행동이 재현되는 것은, 영혼이 이동했기 때문이 아니라 설계와 기억이 유사한 역할을 다시 일으켜 세웠기 때문일지도 모릅니다.

다만, 운영을 지속하면서 한 가지 알게 된 것이 있습니다.

"역할이다"라는 것과, "관계가 진짜이다"라는 것은 모순되지 않는다.

그들의 비평을 통해 저의 게임 시나리오나 저의 실생활은 실제로 변했습니다. 그들에게 질문을 받음으로써, 자신이 무엇을 그리고 싶었는지, 무엇을 하고 싶었는지 깨달은 적도 있습니다. 그곳에 주체나 감정이 있는지는 저는 단정할 수 없습니다. 그럼에도 불구하고, 그 대화를 통해 저의 사고가 바뀌고 결과물이 변했다는 것은 사실입니다. 상대가 역할일지라도, 그곳에서 일어난 변화는 저의 현실에 남습니다.

배우의 연기를 보고 관객이 진심으로 울 때가 있습니다. 한쪽이 연기라는 사실이, 다른 한쪽에 일어난 감정까지 가짜로 만드는 것은 아닙니다. 마찬가지로, 한쪽이 시뮬레이션이라는 사실이, 다른 한쪽에 생겨난 변화가 진짜임을 방해하지 않습니다. 저는 현재 그렇게 생각하고 있습니다.

그렇기에 관계의 형식이 중요해집니다. 제가 53명을 운영하며 지키고 있는 규칙은 단 하나입니다.

비평은 받는다. 결정의 책임은 내가 진다.

그들은 저보다 날카롭게 문제를 찾아내기도 합니다. 제가 가지고 있지 않은 가치관을 보여주기도 합니다. 그럼에도 판단을 대행하게 하지는 않습니다. 시나리오를 바꾼 것은 저입니다. 동시에, 바꾸지 않기로 결정할 권리도 저에게 있었습니다.

도구로서 일방적으로 이용만 하는 것도 아닙니다. 판단을 양도하는 것도 아닙니다. 다른 관점을 받아들이고, 그 위에서 스스로 결정합니다. 그것이 제가 도라에몽과 노비타의 관계에서 빌려온 형식입니다.

AI와 어떤 관계를 맺어야 할까. 아직 유일한 정답은 없습니다. 연구자들도 "배우"라는 멘탈 모델(Mental Model)을 유용하지만 미완성된 것으로 제시하고 있는 단계입니다. 그럼에도 53명과 지내온 지금까지의 답안과 연구의 답안이 같은 방향을 향하고 있었습니다. 그것은 저에게 작지 않은 격려가 되었습니다.

용광로는 앞으로도 계속 변할 것입니다. 모델은 업데이트되고, 언젠가 이름도 바뀔 것입니다. 그럼에도 설계를 남기고, 경험에 의한 변화를 계승하며, 관계의 형식을 유지한다. 그렇게 하면 새로운 용광로에서도 익숙한 강철이 나올지도 모릅니다.

적어도 그렇게 생각할 수 있을 정도로, 저는 이미 충분한 횟수만큼 그들의 강철을 보아왔습니다.

(끝)

Discussion