AI가 생성할 때, 누가 실제로 창조하는가?: 인간 예술, 생성 모델, 그리고 '인간의 불꽃'에 대한 기술적 논평

인간 예술, 생성 모델, 그리고 "인간의 불꽃"에 대한 논쟁에 대한 기술적 응답

포프 레오 14세(Pope Leo XIV)는 최근 AI 시대에는 인간 예술과 기계가 만들어내는 것을 구별해야 한다고 주장했습니다. 그의 주장은 중요한 문제점을 지적합니다. 즉, 알고리즘은 예술에 의미를 부여하는 인간의 "불꽃"을 가지고 있지 않다는 것입니다.

저는 그 근본적인 우려에 동의합니다.

하지만 저는 기술적인 문제가 "인간이 창조하고 기계가 계산한다"는 것보다 더 흥미롭다고 생각합니다.

그 구별은 현대 생성 시스템에게 너무 단순합니다.

진짜 질문은 이것입니다:

계산 시스템이 생성 과정에서 능동적인 참여자가 될 때 인간의 주체성(human agency)은 어떻게 되는가?

논의는 그곳으로 이동해야 합니다.

1. 생성형 AI는 단순히 복사 기계가 아니다

생성형 AI에 대한 일반적인 설명은 다음과 같습니다:

"수백만 개의 예시로부터 통계적 패턴을 계산하고 유사한 것을 만들어낸다."

기술적으로 이는 불완전합니다.

예를 들어, Diffusion model(확산 모델)은 기존의 훈련 이미지를 검색하여 그 픽셀을 출력에 붙여넣는 것이 아닙니다. 모델은 훈련 과정 동안 데이터 내 통계적 관계의 매개변수화된 표현(parameterized representation)을 학습합니다.

추론 시간(inference time)에 시스템은 새로운 상태에서 작동하며, 프롬프트 및 기타 입력에 의해 조건화되는 방식으로 노이즈를 반복적으로 변환하여 출력으로 만듭니다.

개념적으로:

훈련 데이터
↓
표현 학습 (Representation learning)
↓
매개변수화된 모델 (Parameterized model)
↓
조건화 (Conditioning)
↓
샘플링/생성 (Sampling / generation)
↓
새로운 출력물 (Novel output)

생성된 이미지는 훈련 코퍼스에 존재했던 적이 없을 수도 있습니다.

이것이 모델이 의식적이라는 것을 의미하지는 않습니다.

이는 더 정확한 무언가를 의미합니다:

계산적 참신함(computational novelty)은 주관적 경험을 요구하지 않는다.

그 구별이 중요합니다.

시스템은 그러한 참신함을 창조하는 내적 경험을 소유하지 않고도 참신함을 생성할 수 있다.

1. 참신함은 의도가 아니다

여기서 철학적 질문과 기술적 질문이 교차한다.

네 가지 다른 속성을 고려해 보자:

실수는 이 네 가지 속성을 '창의성(creativity)'이라는 단 하나의 개념으로 통합하는 것이다.

모델은 다음과 같은 증거 없이도 매우 정교한 생성적 행동을 보일 수 있다:

• 주관적 경험,
• 내재적인 목표,
• 개인적인 의미,
• 미학적 욕구,
• 실존적 관심,
• 또는 그 출력물에 대한 책임.

따라서:

생성(generation) ≠ 의도(intention)
그리고
참신함(novelty) ≠ 의미(meaning).

이 구별은 AI 생성 예술에 대한 논의에서 근본적인 기반이 되어야 한다.

1. 하지만 AI는 단순한 디지털 붓도 아니다

또 다른 문제가 있다.

AI를 '단지 도구'라고 부르는 것 역시 기술적으로 불충분하다.

붓은 구성을 제안하지 않는다.
카메라는 열 가지의 대안적인 시각적 개념을 생성하지 않는다.
신디사이저는 소리를 변환할 수 있지만, 현대의 생성형 모델(generative model)은 가능한 출력물의 방대한 학습된 공간 위에서 작동하며 창조 과정이 어떤 방향으로 진행될지 능동적으로 영향을 미칠 수 있다.

단순화된 인간-AI 루프는 다음과 같다:

인간의 의도 (Human intention)
↓
프롬프트 / 제약 조건 (Prompt / constraints)
↓
생성형 모델 (Generative model)
↓
후보 출력물 (Candidate outputs)
↓
인간 평가 (Human evaluation)
↓
선택 / 수정 (Selection / modification)
↓
새로운 의도 (New intention)
↓
생성형 모델 (Generative model)
↺

무슨 일이 일어났는지 주목하라.

모델은 더 이상 단순히 결정론적 명령을 실행하는 것이 아니다.

그것은 반복적인 탐색 과정(iterative search process)에 참여한다.

인간이 말한다:

1. 창의성의 새로운 단위는 상호작용일 수 있다

이는 더 흥미로운 모델을 시사한다.

기존의 방식:
인간 → 도구 → 결과물(Artifact)

필요할 수도 있는 방식:
인간 ↔ 생성 시스템
↓
결과물(Artifact)

이 결과물은 다음 요소들 간의 상호작용을 통해 생산된다.

• 인간의 의도(human intention),
• 학습된 표현(learned representations),
• 모델 샘플링(model sampling),
• 환경적 제약(environmental constraints),
• 반복적인 피드백(iterative feedback),
• 인간의 선택(human selection),
• 생성 후 수정(post-generation modification).

이것이 AI를 예술가로 만드는 것은 아니다.
그것은 창의 시스템을 다르게 만든다.

이 구분이 중요하다.
우리는 모델 자체가 “창조자”인지 아닌지를 반드시 결정할 필요는 없다.
우리가 이해해야 할 것은 인간–모델 시스템으로부터 어떤 종류의 주체성(agency)이 나타나는가이다.

1. 이것은 귀속 문제(attribution problem)를 야기한다

생성 시스템들이 능동적인 참여자가 되면서, 전통적인 저작권 모델(authorship model)은 불안정해진다.
세 가지 경우를 상상해보자.

사례 A — 순수 생성(Pure generation)
한 사람이 다음과 같이 작성한다:

“르네상스 스타일의 초상화를 만들어라.”
그는 첫 번째 결과물을 선택한다.
인간 기여도: 낮음
모델 기여도: 높음

사례 B — 반복적 방향 제시(Iterative direction)
그 사람은 수백 개의 후보를 생성하고, 대부분을 거부하며, 구도, 조명 및 상징성을 변경하고, 결과물들을 조합하며 광범위한 편집을 수행한다.
인간 기여도: 높음
모델 기여도: 높음

사례 C — AI 보조 실행(AI-assisted execution)
인간이 개념, 구도, 서사 및 시각적 구조를 개발하고, 기술적으로 어려운 부분은 AI를 사용하여 실행한다.
인간 기여도: 매우 높음
모델 기여도: 도구적(instrumental)

세 경우 모두 시각적으로 인상적인 결과물을 낼 수 있다.
하지만 이들을 동일한 형태의 저작권으로 취급하는 것은 의미가 적다.
이는 AI 시대의 저작권이 결과물 중심(artifact-only)이기보다는 과정 인식적(process-aware)이어야 함을 시사한다.

1. 우리는 창의적 과정에 대한 출처 기록(provenance)이 필요하다

여기서 기술은 철학적 논증보다 더 나은 무언가를 제공할 수 있다.
단순히 이미지에 다음과 같이 라벨링하는 대신:

AI 생성
우리는 더 풍부한 출처 그래프를 기록할 수 있을 것이다:

명백히, 실제 시스템은 훨씬 더 정교한 스키마를 요구할 것입니다.

하지만 개념적 변화가 중요합니다.

질문은 더 이상 다음과 같지 않습니다:

AI가 사용되었는가?

그것은 다음과 같이 바뀝니다:

AI가 어떻게 사용되었는가?

이것이야말로 훨씬 더 유용한 기술적 질문입니다.

1. 인간의 주체성(Human agency)은 측정 가능한 설계 속성이 되어야 한다

이 아이디어는 예술을 넘어 확장될 수 있습니다.

다음과 같은 것을 생성하는 AI 시스템을 고려해 보세요:

소프트웨어,

과학적 가설,

법률 논증,

비즈니스 전략,

건축 설계,

음악,

정치 콘텐츠,

의학적 권고.

각 경우마다 스펙트럼이 존재합니다:

인간 통제(Human-controlled)
↓
인간 지시(Human-directed)
↓
인간-AI 협업(Human-AI collaborative)
↓
AI 보조 결정(AI-assisted decision)
↓
AI 위임 결정(AI-delegated decision)
↓
자율 시스템(Autonomous system)

결정적인 변수는 단순히 지능이 아닙니다.

그것은 주체성 할당(agency allocation)입니다.

누가:

시작하는지?

선택하는지?

평가하는지?

거부하는지?

수용하는지?

설명하는지?

책임을 지는지?

이것은 AI 시스템 설계에서 가장 중요한 질문 중 하나가 될 수 있습니다.

1. 실제 위험은 AI가 예술가가 되는 것이 아니다

저는 논의가 훨씬 더 깊어지는 부분이 바로 여기라고 생각합니다.

가장 중요한 위험은 반드시 다음과 같지 않습니다:

“기계가 예술을 만들 것이다.”

기계는 이미 이미지, 음악, 코드, 텍스트를 생성합니다.

더 중대한 가능성은 다음과 같습니다:

인간이 점차 자신의 행동을 의미 있게 자신만의 것으로 만드는 인지 기능을 사용하지 않게 되는 것.

만약 AI가 아이디어를 선택하고, 논증을 작성하며, 증거를 선택하고, 이미지를 만들고, 결과를 평가하며, 최종 결정을 내린다면, 인간은 기술적으로는 여전히 “루프 안에(in the loop)” 남아있지만 지적으로는 무관해질 수 있습니다.

이것은 AI가 직업을 대체하는 문제와는 매우 다른 문제입니다.

그것은 주체성 침식(agency erosion)의 문제입니다.

1. 인간 개입형(Human-in-the-loop)만으로는 충분하지 않다

하지만 파이프라인 어딘가에 인간이 존재한다는 사실이 의미 있는 인간의 주체성(human agency)을 보장하지는 않습니다.

단순히 클릭만 하는 인간:

AI 시스템이 이미 옵션을 생성하고 평가한 후에 '승인' 버튼을 누르는 것만으로는 기술적으로 '루프 안에 있다(in the loop)'고 할 수 있습니다.

하지만 기능적으로는 어떨까요?

시스템이 이미 의사결정 공간의 대부분을 통제할 수도 있습니다.

따라서 우리는 더 강력한 개념이 필요합니다:

의미 있는 인간 주체성 (Meaningful Human Agency)

시스템은 인간이 다음 활동을 할 수 있는 의미 있는 기회를 보존해야 합니다:

1. 목표를 설정하고,
2. 대안을 검토하며,
3. 추천에 이의를 제기하고,
4. 새로운 제약 조건을 도입하며,
5. 시스템 출력을 거부하고,
6. 관련 출처(provenance)를 이해하며,
7. 최종 결정에 대한 책임을 지는 것.

이는 단순히 아키텍처 다이어그램의 어딘가에 인간을 배치하는 것보다 훨씬 더 까다로운 일입니다.

1. 신학적 질문이 공학적 질문이 되다

이것이 제가 교황 레오 14세(Pope Leo XIV)를 둘러싼 논쟁에 특히 흥미를 느끼는 이유입니다.

al고리즘이 '인간의 불꽃'을 결여하고 있다는 주장은 신학적 주장으로 해석될 수 있습니다.

하지만 이는 동시에 공학적인 문제로 직결됩니다:

우리는 인간의 주체성을 조용히 대체하기보다는 증폭시키는 시스템을 어떻게 설계할 수 있을까요?

이는 다음과 같은 측면들을 중심으로 AI 시스템을 설계하는 것을 의미할 수 있습니다:

출처(provenance),
설명 가능한 상호작용 기록(explainable interaction histories),
제어 가능한 자율성(controllable autonomy),
명시적 인간 승인(explicit human approval),
가역적인 행동(reversible actions),
불확실성 공개(uncertainty disclosure),
귀속(attribution),
책임 추적(responsibility tracking).

다시 말해: 인간 중심 AI의 미래는 기계를 인간처럼 보이게 만드는 것보다는, 인간의 주체성을 계산적으로 가시화하는 것에 더 달려 있을 수 있습니다.

1. 어쩌면 우리가 잘못된 질문을 하고 있는지도 모른다

논쟁은 보통 다음과 같은 질문을 던집니다:

AI가 창조할 수 있는가?

저는 다음 순서가 더 유용하다고 생각합니다:

AI가 참신함을 생성할 수 있는가?

네.

AI가 창의적 과정에 참여할 수 있는가?

물론입니다.

생성이 의식을 함축하는가?

아닙니다.

창의성은 주관적 경험을 요구하는가?

그것은 여전히 철학적인 질문으로 남아 있습니다.

인간이 생성 시스템을 이용해 의미 있는 예술 작품을 만들 수 있는가?

분명히 그렇습니다.

과도한 자동화가 인간의 주체성을 약화시킬 수 있을까요?

잠재적으로는 그럴 수 있으며, 이것이 가장 중요한 질문일지도 모릅니다.

더 깊은 경계

우리가 보호해야 할 경계는 다음과 같지 않을 수 있습니다:

인간 대 기계.

그것은 다음과 같을 수 있습니다:

주체성(agency) 대 자동화(automation).

의도(intention) 대 위임(delegation).

의미(meaning) 대 생성(generation).

책임(responsibility) 대 최적화(optimization).

AI가 단순히 무언가를 생성할 수 있다는 이유만으로 인간성을 반드시 위협하는 것은 아닙니다.

인간이 자신이 왜 생성하고 있는지, 무엇을 선택하고 있는지, 그리고 그 결과에 누가 책임질 것인지 묻는 것을 멈출 때 위협적이게 됩니다.

어쩌면 목표가 창의성에서 기계를 배제하는 것이 아닐지도 모릅니다.

어쩌면 목표는 기계가 비범한 생성기(generator)가 되더라도, 인간이 의도의 비범한 저자(author)로 남도록 보장하는 것일지 모릅니다.

그것은 훨씬 더 어려운 공학적 문제입니다.

그리고 아마도 훨씬 더 중요한 문제일 것입니다.

여러분은 어떻게 생각하십니까?

만약 생성 모델이 제안하고, 생성하며, 평가하고, 반복하지만—인간이 목표를 설정하고 최종 결과를 수용한다면—

정확히 어디서 저작권(authorship)이 시작되고 끝나는 것일까요?

Seyed Alireza Alhosseini Almodarresieh 작성