2021년 3월, 언어학자와 컴퓨터 과학자들의 협업으로 이루어진 4명의 연구자 그룹은 현재 전설이 된 논문 “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜(확률적 앵무새의 위험성에 대하여: 언어 모델은 너무 커질 수 있는가?)”를 발표했습니다.

이 논문은 당시 상당한 주목을 받았습니다 (부분적으로는 논문 발표 직전 Google이 저자 중 두 명인 Timnit Gebru와 Margaret Mitchell를 해고했기 때문입니다). 이 논문은 거대 언어 모델 (LLMs)이 자신이 말하는 내용을 이해하는 것이 아니라, 단어의 발생 가능성이 높은 시퀀스를 통계적으로 예측함으로써 텍스트를 생성한다고 주장했습니다. 저자들은 이 과정을 이해 없이 패턴을 반복하는 시스템이라는 의미에서 “확률적 앵무새 (stochastic parrot)”라는 은유로 포착했습니다. 그리고 지난 5년 동안, 이 비유는 그것이 시작된 학술 분야를 넘어 널리 퍼졌으며, 'Stochastic Parrot'라는 이름의 어깨 거치형 로봇과 같은 프로젝트에 영감을 주고 논쟁을 불러일으켰습니다.

하지만 이러한 광범위한 사용은 해당 문구가 원래 의미했던 바에 대한 오해를 불러일으키기도 했습니다. University of Washington의 계산 언어학 (computational linguistics) 교수이자 주저자인 Emily M. Bender는 최근 논문 발표 5주년을 맞아 논문에 대한 흔한 오해들을 바로잡기 위한 블로그 포스트를 작성했습니다.

Bender는 IEEE Spectrum과 인터뷰를 통해 이러한 오해들, 계산 언어학 분야, 그리고 인공지능 (artificial intelligence)을 둘러싼 현재의 담론에 대해 이야기를 나누었습니다.

“인공지능 (Artificial Intelligence)”이라는 용어의 무엇이 잘못되었나

계산 언어학자로서 당신의 업무를 어떻게 설명하시겠습니까?

**Emily M. Bender: **매우 일반적으로 언어학 (Linguistics)은 언어가 어떻게 작동하는지, 그리고 우리가 언어를 어떻게 사용하는지를 연구하는 학문입니다. 저는 그 연구에 기여하고 있으며, 또한 계산 언어학 (computational linguistics) 분야에서 일하며 향후 언어 기술을 구축하게 될 학생들을 교육하고 있습니다.

언어 기술 (Language technology)은 누군가가 자신의 인공지능 (artificial intelligence) 프로젝트에 사용하고 싶어 하는지 여부와 관계없이, 그 자체로 가치 있고 흥미로운 독립적인 분야로 존재합니다. 언어 기술에는 자동 전사 (automatic transcription), 기계 번역 (machine translation), 맞춤법 검사 (spell check)와 같은 것들이 포함됩니다. 그리고 제가 개인적으로 무언가를 만들 때 수행하는 많은 작업은, 다양한 언어의 언어적 현상 (linguistic phenomena)을 모델링하면서도 기계가 읽을 수 있고(machine-readable) 동시에 인간도 읽을 수 있는(human-readable) 문법 (grammars)을 구축하는 것과 관련이 있습니다. 이는 언어학적 가설 검증 (linguistic hypothesis testing)을 위해 컴퓨터를 활용하는 것에 관한 것입니다.

당신은 "인공지능"이라는 용어가 명확하게 해주는 것보다 더 많은 것을 모호하게 만든다고 주장해 왔습니다. 그 이유는 무엇인가요?

**Bender: ** 여러 가지 이유가 있습니다. 우리가 기술에 대해 이야기하는 방식이 그 기술이 무엇인지 명확하게 밝히지 못한다면, 기술에 대해 실제로 유익한 토론을 나누고 현명한 결정을 내리는 것이 어려워진다고 생각합니다. "인공지능"이라는 문구는 서로 이질적인 기술들을 하나로 묶어버리는 동시에, 각각의 기술이 할 수 있는 능력을 과장하여 판매합니다. 따라서 우리가 무언가를 사용할지 말지, 혹은 어떻게 규제할지를 결정하려고 할 때, 더 명확한 설명이 있다면 훨씬 더 나은 판단을 내릴 수 있습니다.

일반적인 대화에서 AI는 거의 "챗봇 (chatbots)" 또는 "대규모 언어 모델 (LLMs)"과 동의어로 쓰이고 있습니다. 이것이 문제인가요?

**Bender: ** 많은 사람이 "나는 그것(it)을 ~하는 데 사용한다"라고 말하곤 합니다. 그때 "그것"이 무엇을 의미하나요? 그러면 그들은 "아, Claude나 ChatGPT 또는 Gemini를 말하는 거예요"라고 답하며 이러한 챗봇들에 대해 이야기합니다. 하지만 다른 사람들은 "AlphaFold는 어쩌고 하면서, AI가 전부 나쁘다고 말할 수는 없다"라고 말하기도 합니다.

그래서 많은 사람들은 대규모 언어 모델(LLM)을 기반으로 구축된 챗봇에 대해 이야기하지만, [그것들이] AlphaFold 같은 것과는 별개라는 점도 명확하지 않습니다. 그리고 “과학자들이 AI를 사용해 새로운 약물을 발견했다”는 뉴스 보도가 있을 때, 그들은 무엇을 사용했을까요? 만약 그들이 말하는 것이 훨씬 더 좁은 범위의 기술이라면, 어쩌면 단백질 접힘(protein folding)일 수도 있고, 날씨 모델링 같은 다른 종류의 통계적 모델링일 수도 있습니다. 그것은 ChatGPT와는 매우 다른 종류의 기술입니다.

“인공지능(artificial intelligence)”과 같은 포괄적인 용어가 가치가 있다고 생각하십니까?

벤더: 음, 이것을 판매하려고 노력하는 사람들에게는 가치가 있습니다—기술 기업들이 자신들의 가치 평가를 높이려고 할 때도 마찬가지입니다. 또한 현재 연구 자금 지원 방식의 경우, 자신이 하는 일을 인공지능이라고 부르지 않으면 자금을 확보하기가 매우 어렵습니다. 저는 그것이 순수한 부정적 영향이라고 생각하지만, 그 시스템에 갇힌 개인에게는 순간적으로 가치가 있을 수 있습니다.

확률적 앵무새(Stochastic Parrots)의 오해

“확률적 앵무새” 은유에 대한 가장 흔한 오해는 무엇입니까?

벤더: 제 생각에 가장 큰 오해 중 하나는 “벤더가 AI를 확률적 앵무새라고 말한다”는 것입니다. 그 논문은 2020년 후반에 작성되었습니다. 우리는 대규모 언어 모델에 대해 이야기하고 있었습니다. AI라는 단어가 언급되는 것은 마지막에 한 번뿐인 것이 거의 확실하며, 그것은 만약 사람들이 하는 것과 같은 일을 하도록 설계된 시스템을 개발할 경우, 사람이 아닌 것으로 오해받을 수 있는 것을 만들지 않도록 매우 주의해야 한다는 내용입니다. 이러한 시스템이 우리가 언어를 사용하는 방식을 모방하도록 설계되어 있다는 사실은 사람들이 그들을 다른 사람으로 착각하기 매우 쉽게 만듭니다.

그래서 논문의 맨 마지막 부분에서 우리는 AI로 범위를 다소 일반화했습니다. 하지만 "확률적 앵무새 (stochastic parrots)"라는 문구는 구체적으로 대규모 언어 모델 (LLM)을 지칭하며, "인공지능 (artificial intelligence)"이라는 문구는 매우 다양한 것들을 지칭합니다. 따라서 우리는 체스 엔진이나 AlphaFold, 이미지 레이블링 시스템, 또는 기계 번역 시스템과 같이 때때로 인공지능이라 불리는 그 어떤 것들도 확률적 앵무새라고 주장한 적이 없습니다. 우리는 구체적으로 합성 텍스트 (synthetic text)를 생성하기 위해 대규모 언어 모델을 사용하는 것에 대해 이야기하고 있었습니다.

또 다른 점은 "확률적 앵무새"라는 표현이 다른 사람들에 의해 과소평가나 모욕으로 채택되고 해석되었다는 것입니다. 그런 의도는 아니었습니다. 다른 사람들이 그런 식으로 사용할 수는 있겠지만, 그것은 제가 의도한 바가 아닙니다. 왜냐하면 그것은 단지 이 시스템들이 실제로 무엇인지에 대한 묘사일 뿐이기 때문입니다. 이를 모욕으로 간주하려면, 대규모 언어 모델이 불쾌감을 느낄 수 있는 종류의 존재라고 믿거나(그렇지 않습니다), 혹은 이 대규모 언어 모델들이 제가 지지하지 않는 인공지능의 거대한 이상향을 향한 단계로 이해되어야만 합니다.

제가 여러 곳에서 해온 일들—문어 사고 실험 (octopus thought experiment), 확률적 앵무새, "합성 텍스트 추출 기계 (synthetic text-extruding machines)"라는 문구—은 모두 언어 기술을 만드는 업계에 종사하지 않는 사람들에게 이 시스템들이 실제로 무엇을 하는지를 생생하게 전달하려는 노력입니다. 이는 시스템을 모욕하거나 시스템을 좋아하는 사람들을 모욕하는 것과는 전혀 다른 일입니다.

관련 기사: 거대한 챗봇 논쟁: 그들은 정말로 이해하는가?

잘 모르는 독자들을 위해 설명하자면, "문어 테스트 (octopus test)"는 해저 케이블을 통해 전달되는 메시지 내의 통계적 패턴을 문어가 인식한다고 상상한 2020년 논문에서 유래했습니다. 문어 테스트와 확률적 앵무새를 통해, 당신은 벌써 몇 번이나 동물 비유를 사용했습니다. 이것은 의도적인 것인가요?

**Bender: **아니요, 의도적인 것은 아닙니다. 문어 사고 실험(thought experiment)의 경우, 처음에는 돌고래를 예로 들어 이야기를 풀어나갔습니다. 돌고래는 분명히 지능적인 동물이기 때문입니다. 그 논문의 공동 저자인 Alexander Koller는 문어로 바꾸어야 한다고 말했습니다. 우선 문어가 사는 환경이 사람들이 사는 곳과 훨씬 더 이질적이기 때문입니다. 문어가 케이블에서 느껴지는 이 펄스(pulses)를 느끼기만 할 뿐, 사람들이 보고 있는 것을 볼 방법이 전혀 없다는 점이 은유를 더 생생하게 만듭니다. 또한, 문어가 본질적으로 더 재미있기도 하고요.

그 논문을 다시 살펴보니 "확률적 앵무새 (stochastic parrots)"라는 용어가 실제 본문에는 단 두 번만 등장한다는 사실에 놀랐습니다. 왜 제목에 이 용어를 포함하셨나요?

**Bender: **저희가 그 용어가 마음에 들었기 때문입니다! 그리고 눈에 띄는 제목은 학술 논문의 훌륭한 셀프 마케팅이 됩니다. 논문에 그 용어가 많이 등장하지 않는 이유는, 저희가 언어 모델 (language models)을 계속해서 더 크게 만드는 것에 따른 위험의 전체 범위를 정말로 살펴보고 있었기 때문입니다. "거대 언어 모델 (large language model)"이라는 문구 역시 논문에 등장하지 않는데, 당시에는 사람들이 그런 식으로 말하지 않았기 때문입니다.

그래서 합성 텍스트 (synthetic text)에 관한 섹션은 어떤 면에서는 저희가 살얼음판을 걷는 듯한 기분이 들기도 했습니다. 그 당시에는 누군가가 합성 텍스트를 원할 것이라고 상상하기 어려웠기 때문입니다. 논문의 그 부분은 OpenAI가 ChatGPT를 세상에 내놓으면서 훨씬 더 관련성이 높아졌습니다. 그러면서 논문의 그 특정 부분이 중요하게 부각되었습니다. 하지만 저희는 환경적 영향 (environmental impact)에 대해서도 이야기합니다. 이러한 시스템들이 학습 데이터 (training data)의 편향 (biases)을 흡수하게 되는 방식에 대해서도 이야기합니다. 학습 데이터가 결코 제대로 수집되지 않는다는 점에 대해서도 이야기합니다. 그 안에는 많은 다양한 논점들이 있으며, 합성 텍스트에 관한 문제는 그중 하나였을 뿐입니다.

MIT 미디어 랩 (MIT Media Lab)의 연구원들은 많은 챗봇이 아첨하거나(sycophantic) 지나치게 동조하는 경향이 있다는 관찰에 대한 대응으로 '확률적 앵무새 (Stochastic Parrot)' 로봇을 만들었습니다. 그러한 추세가 당신이 논문에서 제시한 위험들과 관련이 있나요?

**Bender: **우리가 2020년 말에 그 논문을 썼을 당시에는, 사람들이 합성 텍스트 (synthetic text)나 챗봇 (chatbots)에 대해 그렇게 열광하지 않았습니다. 챗봇은 이미 존재해 왔습니다. 1960년대에 Weizenbaum의 Eliza가 있었고, 그 후에는 매우 짜증 나는 자동 고객 서비스 시스템들이 있었는데, 대규모 언어 모델 (Large Language Models, LLM) 덕분에 훨씬 더 유창해졌지만, 짜증 나는 점은 여전합니다.

당시 상황이 그러했습니다. OpenAI는 사람들이 가지고 놀 수 있도록 GPT-2와 GPT-3를 내놓았고, 그것들이 합성 텍스트를 추출하게 할 수는 있었지만, 아직 그 모델들에 채팅 인터페이스 (chat interface)가 결합된 상태는 아니었습니다. 또한 아첨하는 듯한 (sycophantic) 행동으로 해석되는 결과를 초래하는 추가적인 학습 단계들도 아직 보지 못한 상태였습니다. 챗봇이 "오, 좋은 생각이네요"라고 말하거나, 당신이 틀렸다고 말하면 "오, 정말 죄송합니다, 당신이 맞습니다"라고 반응하는 식의 응답은 원래의 사전 학습 (pre-training) 이후에 이루어지는 추가적인 학습 단계들과 관련이 있습니다.

언어 모델 (language models)에 대해 사람들이 더 이해했으면 하는 점이 있다면 무엇인가요?

**Bender: **기회가 있을 때마다 제가 항상 전하는 메시지는, 이러한 시스템 중 하나에서 나오는 텍스트가 말이 된다고 느껴진다면, 그것은 우리가 그것을 의미 있게 받아들이고 있기 때문이라는 점입니다. 이 내용은 '확률적 앵무새 (stochastic parrots)' 논문에도 포함되어 있습니다. 우리가 이러한 종류의 기술을 평가할 때마다, 우리는 언어를 이해하는 우리의 능력을 고려해야 하며, 기술에서 어떤 일이 일어나고 있는지 결정할 때 그 점을 염두에 두어야 합니다. 이러한 논의 과정에서 그 점이 자주 간과되곤 합니다.

만약 지금 '확률적 앵무새' 논문을 다시 쓰거나 업데이트한다면, 바꾸고 싶은 부분이 있나요?

**Bender: **논문에서 다루지 못했던 정말 큰 형태의 해악(harm)이 하나 있었는데, 바로 착취적인 노동 관행 (exploitative labor practices)과 관련이 있습니다. 여기에는 많은 데이터 작업자 (data workers)들이 직면한 끔찍한 환경과, 이러한 시스템의 근간이 되는 사람들의 창의적·지적 산물에 대한 대규모 도용이 모두 포함됩니다. 이러한 문제들이 논문에 포함되었어야 했습니다. 당시 세상에 알려지지 않았던 문제는 아니었지만, 우리가 조사한 내용에는 포함되지 않았으며, 마땅히 포함되었어야 하는 내용입니다.

*이 기사는 '확률적 앵무새 (stochastic parrots)' 논문 저자들의 연구 분야를 명확히 하기 위해 2026년 7월 1일에 업데이트되었습니다. *

Gwendolyn Rak은 IEEE Spectrum의 어시스턴트 에디터로 가전제품 및 커리어를 담당하고 있습니다. 그녀는 뉴욕 대학교(New York University)에서 과학 저널리즘 석사 학위를 받았으며, 스와스모어 칼리지(Swarthmore College)에서 천체물리학과 역사 학사 학위를 받았습니다.