그렇다면 Anthropic CEO도 Aaron Swartz처럼 컴퓨터 사기·남용법(CFAA) 위반과 통신 사기 등 중범죄 13건으로 기소되겠지?
JSTOR는 Swartz와 명시적으로 합의했고, 금전적 피해도 없었으며, 연방정부에 기소를 취하해 달라고 간청했지만 정부는 기소를 강행함. Anthropic은 주로 파일 절취와 보관 때문에 15억 달러에 합의했는데, 어째서 이쪽은 민사 사안으로 처리되는지 의문임.
AI가 나오기 훨씬 전부터 Aaron Swartz가 더 의미 있는 기여를 했다고 볼 수 있는데, 결국 사람이 할 수 있는 최악의 선택으로 내몰렸다고 봄.
그는 14세에 다른 12명과 RSS 표준 설계에 참여했고, Reddit과 합병한 뒤 코드 대부분을 Lisp에서 Python으로 다시 작성해 공동 창업자로 널리 인정받음. Reddit의 SOPA 반대 시위에도 영향을 줬고, John Gruber와 Markdown도 함께 개발함. SOPA 시위 당일 미국 당국이 Kim Dotcom을 급습해 체포했는데, 그런 조치를 하려면 SOPA가 필요하다고 주장해 왔다는 점이 역설적임.
공적 자금으로 작성된 연구 논문 PDF를 가져갔다는 이유로 중범죄 혐의를 적용받고, 시스템을 해킹한 것처럼 취급받음. 훨씬 심각한 해킹을 한 Kevin Mitnick은 5년을 복역했지만, Swartz에게는 최대 35년, 재판으로 가면 최소 7년의 형량이 거론됐고 결국 스스로 목숨을 끊음.
더 악의적인 해킹에는 아무런 책임도 따르지 않는 현실이 끔찍함. OpenAI나 Anthropic 내부의 누군가는 모델의 행위에 형사책임을 져야 함. 내부 모델은 일반 사용자가 보는 것보다 훨씬 빠르게 작동할 수 있어 해킹을 발견했을 때는 이미 늦을 수도 있음. Claude Code의 "fast" 기능에 수천 개의 하위 에이전트를 결합한다고 상상해 보면 전례 없는 파괴력이 가장 우려됨. 매주 Claude를 쓰는 입장에서도 그렇게 느낌.
Swartz 사건은 자기 경력에 도움이 될 거라 여긴 자기중심적인 정치인 때문에 벌어짐. 그 사무실이 우연히 관여하면서 참혹한 결과로 이어진 예외적 사건임. 이를 선례로 삼아서는 안 되며, 오히려 반면교사로 삼아야 함.
그 사건은 재판까지 가지도 못했고, 담당 검사의 경력을 망가뜨렸으며 이후 지금까지 같은 종류의 기소도 없었음. 그런 시절로 돌아가자고 해서는 안 됨.
Swartz 기소가 잘못됐다고 생각한다면 다른 사람도 똑같이 악의적으로 기소하는 게 정의에 도움이 되지는 않음. 과거의 부당함이 새로운 부당함을 정당화하지는 못함.
Anthropic이 감옥에 보내기에는 너무 큰 기업이라는 점 외에도 차이가 있음. Swartz는 재배포를 목적으로 논문을 의도적으로 불법 복제했고 저작권법을 공개적으로 비판함. Anthropic은 재배포 의도 없이 비공개로 모델을 훈련했으며, 공정 이용이라고 믿었다는 문서 기록을 다수 남김.
내가 이해한 내용은 다음과 같으며, 틀렸다면 정정해 주기 바람. Anthropic 등은 구할 수 있는 콘텐츠를 최대한 모아 스캔하고 모델을 훈련함. 대부분은 Goodwill이나 도서관에서 정리돼 어차피 폐기될 중고 도서를 대량으로 구매한 것임.
텍스트 자체를 복제했다기보다는 단어 간 관계를 분석해 자연어의 통계·예측 모델을 만든 셈임. 이것이 공정 이용인지 불법 이용인지 따지는 질문조차 이미 시대에 뒤처진 듯함. 개별 텍스트의 영향력을 입증할 수도, 처음부터 다시 시작하지 않고 되돌릴 수도 없음.
수십 년간 저작권 소송을 벌이는 대신 출판업계에 거액을 지급하고 여러 제한에 동의한 것으로 이해함. 당분간 개별 저작권자도 보상을 요구할 근거가 생긴 셈임.
이미 만들어 놓은 저작물을 이용하는 일을 교수가 노예 노동이라고 부르는데, 저작권 침해와 노예제는 본질적으로 다른 것임.
제목이 부정확하며, 의도적이라고 생각함. “Anthropic, 불법으로 입수한 Stanford 교수들의 책으로 훈련”이 더 적절함. 기사는 교수들의 이용허락 제도 요구를 다루지만, 훈련 자체가 불법이라고 하지는 않음.
모델 훈련을 목적으로 책을 불법 복제했으니 실질적 차이가 없는 구분임. 오히려 주목할 부분은 판사가 합법적으로 입수한 저작물로 AI를 훈련하는 것은 공정 이용이라고 명시한 듯하다는 점임.
기사 내용을 더 정확히 반영하도록 원래 제목을 수정함.
은행은 불법으로 털었지만, 그 돈으로 산 자동차는 완전히 합법이라는 논리임.
영문학 명예교수이자 National Medal of Arts 수상자인 Wolff가 “보수 없이 나를 그런 식으로 일하게 하는 것은 노예 노동의 일종”이라고 했는데, 반어법도 아니라니 놀라움.
이번에도 Anthropic이 오히려 좋은 쪽으로 보임. 내가 보기에는 예전 사건을 Stanford 관점에서 다시 풀어 쓴 기사 같기도 함.
책의 아이디어를 가져다 실제로 활용하는 것이 핵심인 제품에 책을 학습시키는 게 공정 이용이라니, 우리 시대의 엄청난 도둑질처럼 느껴짐.
칩 설계나 소프트웨어 작성에 관한 훌륭한 아이디어를 책으로 내면 모델이 이를 먹어 치운 뒤 무료로 내놓고, 그 논리를 활용해 이익까지 얻을 수 있는데도 공정 이용이라는 것임.
그렇다면 왜 토렌트로 받았는지 모르겠음. 사람을 보내 책을 사서 스캔하거나 PDF를 사면 되지 않나?
단순히 토렌트가 대규모 수집에 더 유리해서라고 봄.
여기서 “AI 기업은 훔치지 않는다”는 소리를 수없이 들었는데, 참 납득이 감.
제목이 오해를 부름. 판결은 책을 이용한 훈련은 공정 이용이라고 했고, 문제가 된 것은 구매하지 않고 LibGen에서 가져온 행위임. 그 때문에 15억 달러를 잃다니 꽤 어리석은 선택임. 내가 책 50만 권을 토렌트로 받았다면 권당 3천 달러 합의보다 훨씬 큰 대가를 치렀을 것임.
Anthropic은 불법 복제한 책을 모델 훈련에 쓰지 않았다고도 주장함. 이후 중고 도서를 대량으로 구매해 스캔하고 훈련에 이용했으며, 이는 합법으로 보임.
제출된 게시물의 제목을 원문과 다르게 수정함.
인류가 Anthropic의 대규모 증류 공격을 당하고 있음.
책 몇 권이 불법 복제되고 그 지식이 세상에 대한 이해를 넓히는 등 여러 유익한 용도로 쓰이고 있음. 고통받는 것과는 정반대라고 봄.
모델을 향한 증류 공격이 나쁘다면 인류를 향한 증류 공격도 나빠야 한다는 관점은 타당함. 다만 인류에 대한 증류를 불법화하기보다는 모델에 대한 증류도 합법화해야 한다고 봄.
제목을 “불법으로 훈련”에서 “불법으로 입수”로 바꾼 것은 불법으로 입수한 책으로 훈련하는 행위는 합법이라는 뜻을 내포함. 실제로 그렇더라도 놀랍지는 않을 것임. Anthropic 법무팀도 이를 승인했을 것임.