“닮지 않았는데, 빼앗고 있다?” 생성 AI의 도용 문제는 이제 “복사·붙여넣기 탐지”로는 따라갈 수 없다

IT 업계 종사자(음악 스트리밍)로서, 충격적인 논문을 발견했습니다.

먼저, 이 기사는 특정 생성 AI, 기업, 작품, 인물에 대해 권리 침해를 단정하는 것이 아닙니다. 개별적인 침해 성립 여부는 작품, 계약, 이용 태양, 증거 등을 바탕으로 한 전문적인 판단이 필요합니다.

우선 생성 AI를 둘러싼 저작권 논쟁에서는 종종 두 가지 극단적인 의견이 충돌합니다.

• "학습(Learning)이므로 도용이 아니다"
• "기존 작품을 학습한 AI는 모두 도용이다"

하지만 이 이분법만으로는 특히 음악·가창·성우 연기·나레이션의 문제를 충분히 설명할 수 없습니다.

물어야 할 것은 단순히 "원작과 얼마나 닮았는가"만이 아니라,

특정인의 창작적·연기적 기원이, 반복해서 호출할 수 있는 생성 능력으로 편입되어, 본인의 허락·표시·대가 없이 시장 대체(Market Substitution)로 사용되고 있지는 않은가

라는 점이 아닐까요?

AI 연구자인 Hiroko Konishi 씨의 논문 The Structural Boundary Between Learning and Imitation in Generative AI의 일본어 번역 페이지를 읽고, 이 문제를 "표면적인 유사성"뿐만 아니라, 창작적 기원의 포착·재생성 가능성·시장 대체성이라는 구조적 측면에서 생각하는 프레임워크를 제안하고 있다는 점에 음악에 종사하는 사람으로서 감명을 받았습니다.

생성 AI 논의가 격해지기 쉬운 이유 중 하나는, "학습"이라는 기술적인 용어와 "모방", "도용"이라는 사회적·법적인 용어가 같은 상자에 담기기 쉽기 때문입니다.

논문에서는 개념을 다음 3단계로 나누고 있습니다.

구분	무엇이 일어나고 있는가	예시
학습 (Learning)	일반화된, 비특정적인 패턴을 추출함	화성, 박자, 장르 관습, 일반적인 편곡법
모방 (Imitation)	특정 작품·작가·연주자의 식별 가능한 표현 선택을 가깝게 재현함	특정 가수다운 창법, 특정 성우를 연상시키는 연기
창작적 기원의 구조적 수탈	특정 인물의 창작적·연기적 아이덴티티를, 허락·표시·대가 없이 재사용 가능한 생성 능력으로 변환함	본인을 고용하지 않고, 본인다운 가창·연기·화풍을 반복적으로 상업적 생성함

여기서 중요한 것은, 마지막 "창작적 기원의 구조적 수탈"은 기존 법상 확립된 독립된 카테고리를 단정하는 것이 아니라, 기존의 저작권·저작인접권·인격적 이익·계약 등에 의한 검토가 필요한 사안을 찾아내기 위한 논문상의 분석 프레임워크라는 점입니다.

즉, 이 논문은 "AI 생성물은 모두 침해다"라고 말하는 것이 아닙니다.

오히려 반대로,

일반적인 지식의 추상화와, 특정인의 표현적 아이덴티티를 호출할 수 있는 상태로 만드는 것은 분리하여 검토해야 한다

라고 제안하고 있습니다.

이미지나 문장이라면 기존 작품과의 유사 지점을 비교하기 쉬운 경우가 있습니다.

반면, 목소리나 연기에서는 가치가 단순한 문자열이나 음고(Pitch)의 일치에 머물지 않습니다.

예를 들어 성우나 가수의 표현에는 다음과 같은 요소가 포함됩니다.

• 호흡의 조절 (Pause)
• 숨을 쉬는 방식이나 브레스(Breath)의 위치
• 감정의 고조와 해소
• 어미 처리
• 액센트
• 미세한 리듬의 흔들림
• 캐릭터로서의 반응이나 말투
• 오랜 연기 경험을 통해 형성된 해석

새로운 대사를 읽게 하더라도, 듣는 사람이 "이것은 그 사람의 연기를 겨냥하고 있다"라고 알 수 있을 정도의 특징이 재현된다면, 문제는 "과거의 녹음을 그대로 복제했는가"만으로는 해결되지 않습니다.

논문은 이러한 상태를, 연주자의 표현적 기원이 본인으로부터 분리되어 제3자가 사용할 수 있는 생성 기능으로 변환되는 문제로 파악하고 있습니다.

"닮았다/닮지 않았다"로만 판단하지 않고, 다음 질문을 거듭하면 논점이 상당히 명확해집니다.

그 모델이나 서비스는 특정 작사가·작곡가·가수·배우·성우·연주자의 식별 가능한 표현적 기원을 보유하고 있는 것처럼 보이는가?

동일한 특징을 프롬프트(Prompt), 참조 음성, 추가 학습(Fine-tuning), 설정 변경 등을 통해 반복적으로 출력할 수 있는가?

단 한 번의 우연이 아니라, 재현성 있는 기능이 되어 있는지가 중요합니다.

일반 시청자, 팬, 관계자가 그 출력을 특정 인물, 역할, 연기 이력, 화풍과 결부시키는가?

"본인 그 자체는 아니다"라는 변명이 아니라, 실제로 시장이나 수용자가 어떻게 인식하는지를 볼 필요가 있습니다.

그 AI 출력으로 인해, 본래라면 필요했을 다음과 같은 사항들이 불필요해지지는 않았는가?

• 본인에 대한 출연 의뢰
• 악곡 제작 의뢰
• 라이선스 (License)
• 크레딧 (Credit)
• 보수

여기서 문제가 되는 것은 단순한 "닮음"이 아니라, 인간에 대한 의뢰나 권리 처리를 AI가 대체하고 있는가입니다.

출력이 단순히 "AI 생성"이라고만 설명되어, 그 가치의 원천이 된 인간의 창작적·연기적 기원이 완전히 사라지고 있지는 않습니까?

논문은 이를 창작적 기원이 "AI 생성"이라는 라벨 아래에서 보이지 않게 되는 origin laundering (기원 세탁) 문제로 논하고 있습니다.

이 지점은 매우 중요합니다.

"학습 단계에서 일정 수준의 이용이 허용될 수 있다"는 이야기와, "그 결과로 만들어진 출력을 공개·판매·배포해도 좋다"는 이야기는 동일하지 않습니다.

일본 문화청 또한 AI 관련 저작권 검토에 있어, AI 개발·학습 단계와 생성·이용 단계를 구분하여 생각할 필요가 있다고 정리하고 있습니다.

논문이 제안하는 것은 **Stop/Correction Boundary (정지·재검토 경계)**입니다.

생성, 작품 등록, 공개 배포, 수익화 이전에 한 번 멈추어,

• 특정 인물의 기원을 사용하고 있지는 않은가
• 식별 가능한 연기·목소리·화풍을 재생성하고 있지는 않은가
• 시장 대체가 일어나지는 않는가
• 허가, 표시, 대가가 필요하지는 않은가

를 확인하는 메커니즘입니다.

AI를 일률적으로 금지하려는 발상이 아니라, "실행하기 전에 적절한 질문을 끼워 넣는" 발상입니다.

일본의 공적 자료에서는 생성 AI를 둘러싼 논점으로 학습 단계와 생성·이용 단계를 나눈 정리가 제시되어 있습니다. 또한, AI 생성물의 이용으로 인한 저작권 침해에 대해서는 기존 저著作물과의 "유사성"과 "의거성"이 중요한 요소가 된다고 설명하고 있습니다.

JASRAC 또한 인간의 창작적 기여가 인정되는 AI 이용 작품을 관리 대상으로 삼으며, AI가 자율 생성한 가사·악곡에 대해서는 인간이 창작한 부분만을 관리 대상으로 하는 취급 방침을 나타내고 있습니다. (J-WID)

이러한 정리는 중요합니다.

다만, 논문이 제시하는 문제는 그보다 더 앞선 단계에 있습니다.

출력물에 인간의 창작적 기여가 있는가.

학습 단계에서 예외 규정이 적용될 수 있는가.

그것만으로 특정 연기자나 작가의 표현적 가치를 생성 서비스에 포함시켜도 되는 것인가.

여기에 아직 충분히 정리되지 않은 공백이 있는 것은 아닌가, 라는 문제 제기입니다.

이 논의를 "AI 추진인가, 반대인가"라는 이분법적 대립으로 만들지 않기 위해서는 실무적인 대책이 필요합니다.

• 학습 데이터의 출처, 수집 방침, 추가 학습 경위를 기록한다
• 특정 인물의 목소리·연기·화풍을 직접 겨냥하는 출력을 억제한다
• 권리 침해가 의심되는 출력에 대한 신고, 정지, 재발 방지 절차를 만든다
• 출력 유사성 검출뿐만 아니라 인물·연기·시장 대체에 관한 리스크 평가를 수행한다

문화청의 가이드라인에서도 유사물의 생성을 방지하는 기술적 조치나, 학습 데이터의 출처·학습 과정을 사후에 검증할 수 있는 상태를 확보하는 것이 리스크 저감 관점에서 바람직하다고 명시되어 있습니다.

• "○○풍", "○○ 본인처럼"과 같은 지정이 무엇을 대체하기 위한 것인지 생각한다

• 공개·판매 전에 기존 작품과의 유사성뿐만 아니라, 특정인의 식별 가능한 표현을 빌려오고 있지는 않은지 확인한다

• 크레딧, 라이세스, 대가가 필요할 가능성을 조기에 검토한다

• "AI가 만들었으니까 책임은 없다"라고 생각하지 않는다

• 작품 등록 시 "인간의 기여"뿐만 아니라 "타인의 기원 포착" 확인 항목을 마련한다

• 공개 전·수익화 전에 정지하여 재확인하는 체크포인트를 마련한다

• 문제가 발생했을 때 삭제만으로 끝내지 않고, 원인·데이터·모델 설정·이용 약관을 검증할 수 있는 상태로 만든다

생성 AI의 도용 문제는 앞으로 점점 더 "완전히 일치하는가"만으로는 판단하기 어려워질 것입니다.

특히 음악, 가창, 목소리, 연기 영역에서는 가치가 데이터의 표면뿐만 아니라, 사람이 오랜 기간에 걸쳐 형성한 표현의 선택, 신체성, 해석, 신뢰 관계에 있습니다.

그렇기에 앞으로의 질문은 다음과 같이 바뀌어 갈 것입니다.

이것은 기존 작품을 카피한 것인가.

가 아니라,

이것은 특정인의 창작적·연기적 기원을 제삼자가 사용할 수 있는 생성 자산으로 변환하고 있는 것은 아닌가.

AI를 사용하는 것 자체를 부정할 필요는 없습니다.

하지만 AI 생성이라는 편리한 라벨 아래에서 인간의 창작적 기원, 연기 가치, 라이선스 기회, 보상, 이름이 사라져도 된다는 뜻은 아닙니다.

"닮지 않았으니 문제없다"로 끝내지 않고, 누구의 표현이, 어떻게, 누구의 이익을 위해 재이용 가능해졌는가를 묻는 것이 다음 AI 저작권 논의의 출발점이 되지 않을까요.

• Hiroko Konishi, The Structural Boundary Between Learning and Imitation in Generative AI: Creative-Origin Capture, Performers’ Rights, and Premise Integrity in AI Copyright Governance (2026) 일본어 번역 페이지 https://hirokokonishi.com/jasrac2026
• 문화청 「AI와 저작권에 관한 체크리스트 & 가이드라인」
• 문화청 「AI와 저작권에 관한 생각에 대하여」
• JASRAC 「AI를 이용한 작품의 취급에 대하여」
• JASRAC 「창조의 사이클과 조화를 이루는 AI 활용 실현을 향하여」