AI 아동 도서, 바디 호러 (Body Horror) 에디션

지난주, 저는 AI 생성 콘텐츠의 *동질성 (sameness)*을 시각적으로 보여주는 시연을 게시했습니다. 이는 개별 요소들이 인간이 만든 것과 완벽하게 똑같은 복제품일지라도, 결과물을 쉽게 식별할 수 있게 만듭니다:

해당 기사에서 저는 약 220권의 AI 생성 아동 도서 목록을 수집했지만, 품질에 대한 문제는 의도적으로 피했습니다. 이러한 논쟁은 거의 아무런 결론도 내지 못하기 때문입니다. 반박은 항상 다음 모델이 이전 모델보다 더 나을 것이라는 식으로 돌아옵니다. 그래서 저는 더 단순한 논점을 제시하려 했습니다. 즉, 이 책들은 모두 똑같다는 것입니다. LLM (대규모 언어 모델)이 당신의 목소리가 되도록 내버려 둔다면, 당신은 예상보다 더 많은 것을 잃게 됩니다.

하지만 부모로서 결국 호기심을 이기지 못해, 저는 이 아마존(Amazon) 베스트셀러 중 하나를 구매했습니다. 본격적으로 시작하기 전에, 저는 어린이 백과사전이 세 가지 이유로 매우 격렬한 타겟이 되고 있다고 생각합니다:

1. 아마도 잘 팔리기 때문일 것입니다. 선진국의 대부분의 아이들이 살면서 한 번쯤은 백과사전을 갖게 될 것이라고 저는 확신합니다.

2. 구매자가 독자가 아니기 때문입니다. 이 책들은 표지로 판단되며 친척이나 가족 지인들에 의해 선물용으로 구매됩니다.

3. 소설과 대조적으로, "저자"들은 엄격하게 보호되는 지적 재산권을 침해할 위험 없이 전통적인 출판사들의 가격을 낮출 수 있습니다.

물론, 이러한 백과사전들은 어린 아이들의 정신을 형성하므로 우리는 높은 기준을 세워야 합니다. 다행히도, 프런티어 모델 (frontier models)들이 2025년 여름에 박사급 지능을 넘어섰다고 들었습니다. 문제가 된 책들의 대부분은 2026년 중반에 출판되었으며, 삽화는 미국의 주요 연구소에서 만든 플래그십 모델을 가리키고 있습니다. 그러니 높은 확률로, 걱정할 것은 아무—

오...

오.

이런, 세상에!

물론, 훌륭한 호러는 단순히 깜짝 놀라게 하는 것(jump scares) 그 이상입니다. 때로는, 당신에게 손을 뻗고 있는 반사된 형상을 언뜻 보는 것과 같습니다:

혹은, 당신이 알지 못하는 행성에서 깨어나는 것일 수도 있습니다. 당신은 애원하고 빌고 비명을 지르지만 아무도 믿어주지 않을 것입니다:

그가 돌아온 이후로, 당신의 고양이에게는 무언가 이상한 점이 있습니다:

당신은 짐승과 나무가 악의적이고 맥동하는 덩어리로 융합되는 것을 무력하게 지켜보게 됩니다:

덩굴이 당신의 발목을 휘감고, 거칠고 형체 없는 목소리가 당신의 귀에 불안한 말들을 계속해서 속삭입니다:

참고로, 이 모든 사진들은 Amazon의 #1 카테고리 베스트셀러(링크)에서 가져온 것입니다:

순위와 리뷰는 조작될 수 있지만, 관련 제품 카테고리를 살펴보면 이런 것들이 도처에 널려 있습니다. 저는 이러한 노출이 실제 판매로 이어지고 있다고 확신합니다:

자, 상황은 이렇습니다. 네, 내일의 모델들이 결점 없는 아동 백과사전을 생성할 수 있게 될 가능성은 전적으로 존재합니다. 하지만 그때가 오기 전까지, 우리는 아이들을 망치고 있습니다.