온라인 언어 학습용 문법 자료에서 특정 언어의 부정 표현이 작동하는 방식을 설명하려고 새 용어를 직접 만들었음. LLM과 대화해 보니 내 자료를 수집해 학습했는지 그 용어와 설명을 그대로 사용했음.
출처와 창안자를 묻자 여러 번 검색하면서도 내 용어나 설명이 들어 있지도 않은 다른 자료들만 인용하려 했음. 내 자료를 반쯤 정확하게 되풀이하면서 정작 원출처는 끝내 밝히지 않았고, 다른 누구라도 이런 행동을 했다면 심각한 부주의이자 부정직, 표절로 취급됐을 것임.
생성형 AI는 진실을 광범위하게 훼손하는 일을 급속도로 진행 중이며, 어떤 이득도 이를 정당화할 만큼 가치 있다고 보지 않음.

원문이 학습 데이터에 포함됐더라도, 질문 이후 LLM이 사용한 검색어나 검색 엔진으로는 찾지 못했을 수 있음. 다른 학습 문서에서 널리 인용된 출처가 아니라면, LLM은 학습 자료의 출처를 기억해 꺼내는 능력이 없음. 현재 LLM 학습은 출처와 유래를 의도적으로 보존하도록 설계되지 않음.
이미 알고 있고 바로 그 점을 비판한 것일 수도 있지만, 의인화한 표현에 반사적으로 반응하게 됨.

독창적인 작품은 당신이 만들고, 성 안의 영주는 그것을 거둬다 사용함. 누가 어떤 방식으로 부유해지는가?.

지금 Copilot이 몰래 수집하고 있을지도 모를 막대한 지식재산은 그보다 더할 수 있음. 이미 OpenAI와 Anthropic도 그렇게 한다고 보는 마당에, Microsoft가 기업 고객과 모델 서버 사이의 중간자 위치를 은밀히 이용해 경쟁력을 높이려는 시도를 무엇이 막겠는가?

“업데이트 뒤에 ‘조직 데이터로 학습 허용’ 설정이 켜졌다고요? 정말 죄송함. 하지만 데이터는 삭제하지 않겠음. 설정이 켜져 있었다는 게 이해되지 않나요?”라는 식으로 나올 법함.

여기서 “우리”는 누구를 가리키는가?

“OpenAI가 유료 장벽 뒤의 정보를 수집해 학습했다는 사실을 알았다면, 모델을 재학습하도록 요구했을 것”이라니, 참 믿음직하기도 함.

1980년대부터 Microsoft가 저지른 잘못들도 한번 이야기해 보면 어떨까?

맞는 말이긴 한데, 왜 그런 발언을 했을까? 내 추측으로는 Microsoft의 AI 사업 추진이 부진해서인 듯함.

Microsoft의 그 인사에게는 남의 눈의 티보다 자기 눈의 들보부터 빼라는 성경 구절을 권하고 싶음: https://www.biblegateway.com/verse/en/Matthew%207%3A5.
종교와 관계없이 Microsoft 같은 회사의 위치에서 이런 발언을 하는 누구에게나 적용됨. 남의 작은 허물만 보면서 자기의 큰 허물은 외면하지 말고, 자기 허물부터 바로잡아야 남을 바로잡을 수 있다는 뜻임.

2023년 1월 내부 메모를 맥락에서 떼어낸 것이며, ChatGPT가 공개된 지 불과 한 달 뒤 작성된 문서임. 기사에서 인용한 내용은 Microsoft 응용과학 책임자 Brent Hecht가 전 세계 수백만 명이 대형 모델의 작품 수집을 “전례 없는 규모의 엄청난 절도”로 여기게 될 것이라며 “인류 역사상 최대의 노동 절도”라고 표현했다는 대목뿐임.
종교까지 끌어들일 필요 없이 Microsoft 직원들이 내부 이메일을 쓰도록 놔두면 됨. 오히려 ChatGPT 출시 한 달 만에 한 말로서는 앞날을 내다본 셈임.

이 구절에서 “beam”은 무엇을 뜻하는가? 나무 가시인가?

자기 말 대신 성경 문구를 가져왔으니 이것도 노동 절도인가? 물론 그런 비난은 터무니없음. 인류의 지식과 발전은 앞선 이들의 작업 위에 쌓여 왔고, 그것이 마땅한 방향임.
이를 뒤집어 “노동 절도”라 부르거나 오늘날의 지식을 바탕으로 발전시키지 말라고 요구하는 건 말이 안 됨. 인간의 노동을 한 번 더 가져오자면, “내가 더 멀리 볼 수 있었다면 거인들의 어깨 위에 서 있었기 때문”임.

노예제가 존재하는 세상에서 그런 표현을 쓰다니 꽤 뻔뻔하게 들림.

콘텐츠를 만들 당시 누군가는 대가를 받았을 것으로 추정됨. 그렇다면 빼앗기는 것은 노동 자체가 아니라 결과물이 앞으로 창출할 가치에 가까움.
실제 노동 절도라는 표현은 인류 역사상 어느 시대의 노예제에나 더 잘 들어맞는다고 봄.

미래 가치뿐 아니라 선택권과 자기결정권도 빼앗긴 것임.

저작자의 권리는 그런 식으로 작동하지 않음.

수집된 콘텐츠의 상당 부분은 임금을 받고 만든 결과물이 아니라 자발적으로 제공한 자료였을 가능성이 큼.