Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 글은 LLM이 생성한 산문에서 느껴지는 독특하고 때로는 거부감을 주는 'LLM Voice'에 대해 경고합니다. 작성자는 작가들이 초안 전체를 AI에게 맡기는 함정을 피해야 한다며, 구조 개발 외에는 반드시 인간의 손으로 직접 산문을 채워 넣어야 한다고 강조합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 HN AI Posts의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기2026년 10월 29일
때로는 글을 읽다가 제가 대규모 언어 모델(LLM)이 생성한 결과물을 읽고 있다는 느낌을 받곤 합니다. 정확히 왜 그런지는 정의하기 어렵지만, 흔하게 나타나는 특징들이 있습니다 (엠-대시가 문제가 아니라, 구조를 지탱하는 전반적인 분위기 같은 것입니다). 이런 경험을 할 때마다 계속해서 글을 읽으려는 욕구가 약해지며, 때로는 혐오감에 가까울 정도입니다.
LLM이 작성한 산문과 구식의 생물학적 결과물을 구분할 수 있다고 주장하는 도구들이 있습니다. 저는 그 도구들에 대해 경계심을 갖습니다. 일부는 정확성에 대한 회의론 때문이고, 또 다른 이유는 그것이 핵심을 놓치기 때문입니다. LLM-Voice에 대한 반응은 인간적인 반응이며, 우리가 산문의 '불쾌한 골짜기(uncanny valley)'에 있다는 감각과 같습니다. 제가 무엇을 읽고 있는지 알려주기 위해 도구를 찾으려 할 때쯤이면 이미 너무 늦습니다. 심지어 그 도구가 LLM이 존재하지 않는다고 자신 있게 말해주더라도 말입니다.
또한 저는 스스로의 능력을 의심합니다. 즉, LLM의 목소리를 정확하게 인식할 수 있는지에 대한 의구심입니다. 언어는 시간이 지남에 따라 변하기 때문에, 나이가 들었다는 흔한 징표 중 하나는 젊은 세대의 언어에 대해 불평하는 것입니다. 저는 “새로운 영업 *모션(motion)*을 채택하다”라거나 “뉴스에 대한 날카로운 요약” 같은 표현이 담긴 산문에 거슬려 합니다. 하지만 이런 구문들을 사람의 입에서 들은 적도 있기 때문에, 이는 탄소 기반 생명체와 실리콘 사이의 차이라기보다는 세대 간의 차이에 가깝습니다. (그리고 이식된 영국인으로서, 미국식 표현에 대해서는 말할 것도 없습니다. 곧 익숙해질 것이라고 확신합니다.)
지금 저는 작가들에게 LLM-Voice에 대해 극도로 경계하라고 촉구하고 싶습니다. 특히 저자는 LLM에게 초안을 작성하도록 맡기는 함정에 빠지지 않도록 강력히 권고합니다. 비록 인간이 편집했다고 하더라도, LLM-Voice를 완전히 떨쳐내기는 매우 어렵기 때문에 불쾌한 골짜기 반응을 유발할 수 있습니다. 심지어 문구를 재구성하라는 제안을 받아들이는 것도 위험합니다. 사람들이 아웃라인과 구조를 개발하기 위해 LLM을 사용하는 것은 괜찮을 수도 있지만, 오직 아웃라인의 범위 내에서만 그래야 합니다.
작가는 스스로 산문을 채워 넣어야 합니다.
매우 어렵지만 불가능하지는 않습니다. 저는 초안 전체가 LLM에 의해 작성된 사례를 접한 적이 있는데, 최종 결과물을 읽었을 때 LLM의 목소리(LLM Voice)는 감지할 수 없었습니다. 하지만 주요 정기 간행물 출판사의 전문 편집자가 다듬어 주는 과정은 필요했습니다.
이 사이트의 저의 정책은 글쓰기에 도움을 받기 위해 AI를 사용하는 사람은 누구나 그 사용 방법을 감사의 말(acknowledgments) 등에 명시해야 한다는 것입니다. 이는 부분적으로 투명성을 위한 것이고, 또한 독자들이 AI를 유용하게 사용할 수 있는 방법을 배울 수 있도록 하기 위함입니다. 저의 경우, 저는 산문 생성이나 구조화에 도움을 받기 위해 AI를 사용하지 않습니다. 제가 글쓰기에 사용하는 유일한 방법은 검색 도구(search tool)로서 이용하는 것뿐이며 (하지만 모든 정보는 출처를 직접 확인합니다).
LLM 시대에 '당신의 글쓰기(Your Writing)'는 더욱 중요합니다. 저는 습관적으로 머릿속의 말을 소리 내어 말한 다음 글로 옮기고 (그리고 방금 쓴 내용을 편집합니다). 이 조언은 정기적으로 글쓰기를 통해 소통하고자 하는 사람이라면 누구에게나 특히 중요합니다. 많은 것들과 마찬가지로, 좋은 작가가 되는 법을 배우는 것은 많은 연습에 의존합니다. 이는 시간을 들여 습득할 가치가 있는 기술이지만, LLM에 의존하는 것은 모든 진전을 훼손할 것입니다.
시간이 지나면 LLM이 너무 뛰어나서 우리가 차이를 구별하지 못할 수도 있습니다. 여러 면에서 그것은 더 걱정스러운 일입니다. 대부분의 작가들처럼, 저는 글쓰기를 생각하는 데 거의 필수적인 도구로 여깁니다. 종종 어떤 주제에 대한 생각을 실제로 논리적으로 정리(coherence)하려면 무언가를 글로 적는 것만이 방법일 때가 있습니다. 저는 자신이 무언가를 제대로 이해하지 못한다는 것을 알면서도 에세이를 시작한 적이 많지만, 단어와 씨름하는 행위 자체가 저의 혼란을 극복하도록 강요합니다. 더 많은 사람들이 글쓰기를 LLM에 위임할수록, 그들은 생각과 이해(comprehension)까지 LLM에 위임하게 될 것입니다. 저는 그런 일이 일어나길 원하지 않습니다. 그렇다면 글쓰기의 재미는 어디로 가는 걸까요?
LLM-Voice를 피하는 것이 일반적인 규칙이지만, 절대적인 것은 아닙니다. 중요한 예로는 Jim Highsmith(이 사이트에 기고한 사람)의 경우입니다. 그는 파킨슨병이라는 고통을 극복하기 위해 글쓰기 과정에서 LLM과의 작업이 필수적이라고 느낍니다. 저는 오래된 친구의 지혜를 계속 흡수하기 위해서라면 기꺼이 LLM-Voice를 다룰 것입니다.
더 어색한 경우는 번역의 경우입니다. 제 동료들 중 많은 이들은 영어에 편안함을 느끼지 못하며, 영어가 그들의 두 번째 또는 네 번째 언어인 경우가 많습니다. 일부는 마라티어를 잘 모르는 저희와 소통하는 데 있어 LLM 번역이 중요한 부분이 되었다고 생각합니다. 하지만 저는 매끄럽지만 영혼 없는 LLM보다는 진정한 인간의 투박한 산문(prose)을 더 선호할 것입니다.
심지어 원어민 영국인이라도 LLM에게 산문 작성을 맡기는 것이 합리적인 상황들이 있습니다. 예를 들어 공무원에게 보내는 양식 편지를 작성하거나, 아무도 읽지 않을 것이라고 의심되는 보고서를 준비할 때 같은 경우입니다 3. 어쩌면 미래의 대부분의 문서는 오직 LLM에 의해서만 읽힐 것이고, 그들은 제가 가진 불쾌한 골짜기(uncanny valley)에 대한 걱정을 하지 않을 수도 있습니다. 하지만 인간과 소통하고 싶다면, 저의 인본주의성이 제 산문에서 빛나거나 (적어도 스며 나와야) 합니다.
3: Michael Nygard가 논평했습니다: “당신은 실제로 한 사람의 생각을 다른 사람에게 전달하려고 하는 것이 아닙니다. 당신은 인간이 아닌 프로세스(process)와 소통하고 있는 것입니다. 인간이 봉투를 열 수는 있지만, 그 사람은 사이버네틱 유기체(cybernetic organism)의 구성 요소로 작용하는 것일 뿐입니다.”
1: 매우 어렵지만 불가능하지는 않습니다. 저는 초안 전체가 LLM에 의해 작성되었다는 것을 알면서도, 최종 결과물을 읽었을 때 LLM-Voice를 감지한 적이 있는 사례를 접했습니다. 하지만 이를 다듬기 위해서는 주요 정기간행물(periodical publication)의 전문 편집자가 필요했습니다.
2: 이 사이트의 제 정책은 글쓰기에 도움을 받기 위해 AI를 사용하는 사람은 사용 방법을 표기해야 한다는 것입니다. 보통 감사의 말(acknowledgments)에 적습니다. 이것은 부분적으로 투명성을 위한 것이고, 또한 독자들이 AI를 사용하는 유용한 방법을 배울 수 있도록 하기 위함입니다. 저의 경우, 저는 산문 생성이나 구조화 도움을 위해 AI를 사용하지 않습니다. 제가 글쓰기를 위해 사용하는 유일한 방법은 검색 도구(search tool)로서입니다 (하지만 정보는 항상 출처로 가서 확인합니다).
3: Michael Nygard가 댓글을 달았습니다: “당신은 실제로 한 사람의 생각을 다른 사람에게 전달하려고 하는 것이 아닙니다. 당신은 인간이 아닌 프로세스(process)와 소통하고 있습니다. 인간이 봉투를 열 수는 있지만, 그 사람은 사이버네틱 유기체(cybernetic organism)의 구성 요소로 작용하는 것입니다.”
Alessio Ferri, Caer Sanders, Ian Cartwright, Jie Jessie Xia, Joshua Kerievsky, Michael Feathers, Michael Nygard, Scott Davies, 그리고 Wei Zhang이 이 게시물의 초안에 대해 의견을 제시했습니다.
저는 이 글을 쓰는 동안 AI나 LLM(대규모 언어 모델)을 전혀 사용하지 않았습니다.