문제의 근본은 서비스형 AI가 막혀 있다는 데 있음. 제공 회사들은 그 모든 데이터를 이용해 경쟁자를 앞지를 강한 유인이 있고, 그걸 비밀리에 할 수도 있음
게다가 수사기관도 거기에 접근하고 싶어 안달일 것임. 언젠가는 유능한 모델을 돌릴 수 있는 오픈소스와 저렴한 하드웨어가 나오길 기대함

“비밀리에 할 수 있다”는 게 정말 맞나? 무데이터 보관(ZDR) 은 기업 계약에서 표준 문구이고, 공급사가 계약 조건을 무시하면서 그 정도 책임을 떠안으려 한다는 건 꽤 심각해 보임
게다가 Anthropic은 SOC2와 ISO27001을 갖췄으니 어느 정도 독립 감사도 받은 셈임. 물론 그런 기록·로깅을 숨기려 들 수도 있겠지만, 반대로 그 데이터를 몰래 수집하지 않을 강한 유인도 있음
다만 ZDR은 계약 최소 금액이 붙는 경우가 많아서 개인이나 작은 회사는 배제되고 공급자 마음에 맡겨지는 문제가 있음

SOC 2 Type 2 감사라면 감사인이 접근을 검증해야 하는 것으로 알고 있었음. Anthropic, Google, OpenAI 같은 상위 3개 공급사의 유료·비즈니스 버전을 구매하면 SOC 2 Type 2이고, 그런 서비스는 접근 로그를 유지하며 독립 감사인이 데이터가 규칙에 어긋나게 접근되거나 사용되지 않는지 검증해야 하는 것 아닌가?
본질적으로 AWS가 이걸 처음부터 보고하는 이유도 여기에 있음

문제의 뿌리는 보통 사람들이 삶에서 보는 문제들에 대해 충분히 소리를 내지 않아서 사실상 가축처럼 된다는 데 있음
가축의 의견을 신경 쓰나? 몇몇은 신경 쓰겠지만 대부분은 그렇지 않음

전부 극도로 디스토피아적이고 어떻게 나아질지 모르겠음. 연산 자원과 훔친 지식재산 더미에 접근해 비밀 모델을 학습시킬 수 있는 몇몇 초거대 기업은 되돌려 기여할 유인이 없음
그들은 모델이 대중에게 너무 위험하다고 말하면서 일반 공개 버전은 약화하고, 자신들이 선호하는 초거대 기업이나 국가 파트너에게만 진짜 좋은 비밀 버전에 접근하게 할 수 있음
중국의 공개 가중치 모델이 따라잡기를 기대할 수는 있지만, 독점 최전선 모델과 정말 동등해지는 순간 그들도 가중치 공개를 멈출 가능성이 큼. 선의로 이런 일을 하는 게 아님
무엇이 이 흐름을 탈선시킬 수 있을지 상상하기 어렵다

이건 이상한 행동이고, Anthropic이 진지한 사람들에게 관리되고 있지 않다는 증거를 조금 제공함. AWS/GitHub/Zed 등에 이 정책을 적용하면 기업·정부 판매에서 가진 큰 우위를, 비슷한 성능의 모델과 적당히 괜찮은 UI를 제공할 수 있는 경쟁자에게 넘겨주는 셈임

비슷한 모델을 만들 수 있는 경쟁자들은 오래전부터 동의 기반 데이터 공유라는 아이디어에 군침을 흘려 왔음. Anthropic이 먼저 문을 열어 줬으니, 다른 회사들도 “첫 번째”가 되는 부담 없이 같은 일을 할 수 있게 됨. OpenAI 등의 다음 모델도 같은 요구사항을 둘 거라고 봄
Mythos 발표 이후로 최신 최고 성능 모델이 더 이상 일반인에게 제공되지 않는 미래로 가고 있다는 게 분명해졌음. 비용만 더 드는 게 아니라, 사용 사례 검증과 데이터 공유라는 형태의 대가도 요구하게 됨. OpenAI의 5.5-Cyber 모델도 같으니 Anthropic만의 일이 아님
우리가 불쾌한 이유는 새 반짝이는 모델이 나오자마자 만져볼 수 있는 데 익숙해졌기 때문임. 하지만 이 스레드에서 Anthropic이 “멍청하다”고 하는 건 감정 기반 희망 사고로 보임

솔직히, 큰돈이 걸린 사람들은 이 댓글을 쓰며 스쳐 지나간 생각보다 훨씬 더 많이 고민했을 가능성이 큼

그들은 경쟁자가 자신들의 가장 강력한 모델을 증류하지 못하면 충분히 오래 앞서 나갈 수 있고, 결국 사람들이 이 조건을 받아들일 거라고 베팅하는 중임

OpenAI도 최근 자사 모델을 Bedrock에 추가했으니 전환이 쉬워짐

Anthropic이 지금 하는 말 중 얼마나 많은 부분이 IPO 전 마케팅 헛소리이고, 얼마나 오래갈 정책인지 알기 어려움
만약 이게 “우리 모델은 너무 강력해서 밤에는 묶어 둬야 한다”는 식의 마케팅이라면, 엄청나게 잘못 짠 전략으로 보임. 어렵게 쌓은 고객 신뢰를 깨는 데 이보다 좋은 방법이 떠오르지 않음

우리가 네가 하는 일을 마음에 들어 하지 않거나, 우리와 경쟁할 수 있다고 보면, 네가 돈 내고 생성받는 코드를 조용히 망가뜨리겠다

개인정보 보호 보장이 크게 약해진다. 조사하는 동안 네가 보내는 모든 것을 불특정 기간 보관하겠다
둘 다 Anthropic이 특히 코딩 분야에서 기업 고객을 잘 끌어왔고, 군사용 고객도 계속 노리는 듯하다는 점을 생각하면 자기파괴적으로 보임
조용히 거부한다는 부분은 정말 이례적임. 단순히 일부러 둔화시키고 돈 내는 만큼 주지 않겠다는 뜻인지, 아니면 생성 코드에 적극적으로 훼손을 넣겠다는 뜻인지 모르겠음. 왜 그냥 요청을 거부하지 않나?
아마 거절 자체가 무엇을 가치 있다고 보는지 너무 큰 신호를 준다고 주장하고 싶은 것 같지만, “재귀적 자기개선” 이야기는 IPO를 띄우려는 100% 헛소리로 봄. 다른 LLM 개발 회사들이 기본 개발 인프라 같은 것을 파악하지 못했다고 정말 생각할 만큼 오만한가?
Anthropic이 자신들과 경쟁할 무언가를 만들려는 요청을 조용히 실패시키는 게 조금이라도 괜찮다고 생각한다는 사실만으로도 충분히 나쁨. 게다가 “Fable”이 거부하는 방식의 엄청난 무능을 보면 이런 의사결정은 의도한 것보다 훨씬 많은 요청을 조용히 실패시킬 것임
Anthropic의 모델명 “Mythos”, “Fable”은 “장대한” 이름을 붙이면 모델이 강력해 보일 거라고 생각한 14세가 떠올린 듯함. Honda Civic에 레이싱 줄무늬와 시끄러운 방귀 배기음을 다는 것과 비슷함

이 정책은 모든 공급자에 적용됨. Cursor의 경고는 여기 있음: https://i.redd.it/7sfyker2ya6h1.png
Anthropic은 기록된 데이터로 모델을 학습하지 않겠다고 약속했으니, 여기서 일부 우려가 잘 이해되지 않음. 정확한 위협 모델이 뭔가? Anthropic이 약관을 어기고 모델을 학습할 거라는 건가? 이전에는 데이터를 기록하지 않을 만큼은 믿었지만, 이제는 기록된 데이터의 사용 제한을 지키겠다는 말은 못 믿겠다는 건가?
일부 답글에는 어느 정도 설득됐음. 다만 이 변경은 주로 Enterprise 사용자에게 영향을 준다는 점도 볼 필요가 있음. 소비자 요금제 데이터는 이미 30일 동안 보관됨. 출처: https://privacy.claude.com/en/articles/10023548-how-long-do-...

상대방을 얼마나 신뢰하느냐는 별로 중요하지 않음. 규제 세계에서는 그들이 준수를 보장하는 계약에 서명하느냐만 중요함
AWS와는 그런 계약이 있지만 Anthropic과는 없음. Anthropic이 물리적으로 데이터를 캡처하면, 우리가 거래할 수 있는 당사자 경계 밖으로 스스로 나가는 것임
계약에 서명하고 그에 맞는 모든 준수 조치를 구현하겠다면 모르지만, AWS가 10년 동안 구축해 온 것을 AWS가 운영하는 모든 관할권에서 지금 당장 따라 하겠다는 게 좋은 거래라고 생각한다면 제정신이 아님

Meta도 개인정보를 존중하겠다고 약속했음. 회사명을 세계 상위 50개 기업 중 아무 곳으로 바꿔 놓고, 얼마나 약속을 지켰는지 또는 규칙을 어기고도 멀쩡했는지 돌아보면 됨
미국에는 이런 위반으로 회사를 파산시킬 수 있는 법제가 없음. 그러니 보장도 없음
Meta는 책을 공개적으로 토렌트했고, 아무도 그들에게 AI 모델을 제거하거나 파기하라고 요구하지 않았음. Anthropic에게도 마찬가지로 그냥 사업 비용일 뿐이었음. 모델은 그대로 유지하도록 허용됐고, 규칙을 어겨도 실질적 결과가 없었음

데이터에 대해 신뢰해야 하는 공급자가 하나 더 늘어남. 이전 가정은 AWS가 데이터를 안전하게 처리하고 있고, 어차피 데이터가 AWS에 있을 수도 있다는 것이었음
이제는 두 공급자가 데이터를 다루므로 둘을 동일하게 신뢰하더라도 위험이 두 배가 됨. AWS의 데이터 통제가 Anthropic보다 더 견고하다고 본다면 위험은 두 배 이상 커짐
허용된 저장·전송 국가, 각종 인증, 계약 같은 데이터 관리 요구사항도 있을 수 있고, 이제 이를 두 번째 데이터 처리자에게까지 확장해야 함
기본적으로 이미 AWS를 쓰고 있다면 AWS 전용 Bedrock 모델을 추가하는 건 법적으로 쉽고 보안 태세도 크게 바꾸지 않음. 하지만 데이터를 Anthropic에도 기록해야 한다면 선택이 훨씬 복잡해짐

둘 다 동시에 참일 수 있음. Anthropic이 우리 Fable 세션으로 학습하지 않을 거라고는 아마 믿을 수 있지만, ZDR이 업계 표준에서 약화되는 건 여전히 위험한 선례임
데이터 보관과 일반 대량 감시 사이에는 유사성이 있음. 두 시스템 모두 적절한 안전장치가 있으면 순전히 선한 목적으로 쓰일 수 있음. 하지만 역사는 감시 시스템이 악의적 목적으로 놀라울 정도로 쉽게 탈취된다는 것을 보여 줌. 모델 제공자에게도 보관 데이터를 내부 목적으로 활용할 강한 유인이 있음
이 정책 자체가 당장 내 개인정보를 침해한다고 믿지는 않더라도, 항의할 가치가 있음

데이터를 저장하지 않는다고 말하는 것과, 데이터를 30일 저장하고 “문제”가 있는지 검토한다고 말하는 것은 다름
누가 어떻게 검토하는지, 찾는 “문제”가 무엇인지 같은 부분이 거미 감각을 건드림. 너무 모호하고, 그들은 이 “위험한” 모델을 자기들만 가질 수 있음

규제 대상 기업이나 정부 고객에게는 이게 통하지 않을 게 거의 확실함. 하지만 AWS도 그걸 알 텐데, 왜 동의했는지 궁금함

왜 동의했는지는 뻔하지만 말해 둘 가치가 있음. 그만한 가치가 있기 때문임. 해당 모델 수요는 전례가 없고, AWS가 거절했을 때 Anthropic의 유일한 손해는 xAI와 Google에서 최근 확보한 연산 자원으로 Fable을 준비하는 동안 매출이 한 분기 밀리는 정도임

GitHub Copilot도 마찬가지임 [1]. GitHub Copilot은 AWS 솔루션보다 정부 쪽에 더 많이 들어가 있음
Anthropic이 시도 중이고, 대담한 전략인지 지켜보면 됨

이건 기업 스파이 활동의 고급 버전 같은 냄새가 남. 앞으로 대부분의 회사가 이 AI를 쓴다고 가정하면, 이 데이터는 Echelon 같은 네트워크로 직접 들어가고, Boeing 대 Airbus 스캔들처럼 “흥미로운 정보”가 우호적 당사자에게 새어 나갈 것임. 그 사건도 처음엔 널리 보도됐다가 공식적으로는 덮였음

비밀 스파이 프로그램이라면 왜 일부를 공개하겠나?
데이터를 이용해 비밀 스파이 활동이나 정부 감시를 한다면 전부 비밀리에 했을 것임

정부와의 비밀 합의 냄새가 더 남

으. 우리 회사만 Opus 4.8에 남을지, 다른 모델 제공자로 옮길지, 아니면 모델 재학습 금지·제3자 데이터 전송 금지 같은 약관을 크게 약화하며 업데이트할지 어려운 결정을 하게 되는 건 아닐 것임
Anthropic이 왜 이걸 원하는지는 이해하지만, Amazon이 아마 Anthropic 도구를 써서 분석을 먼저 돌리고 살펴볼 게 있다고 판단한 경우가 아니라면 데이터가 Anthropic에 가지 않는 구조였다면 훨씬 편했을 것임. 그 정도면 기업 약관·개인정보 처리방침에서 예외로 두기도 더 쉬웠을 것임

AWS가 현재 보장한다고 여겨지고, 당신 회사가 가치 있게 보는 것이 정확히 무엇인지 설명해 줄 수 있나? 플랫폼에 아주 익숙하진 않지만, 다른 미국 회사와 마찬가지로 CLOUD Act에 따라 저장 위치와 무관하게 합법적 요청이 오면 미국 기관에 데이터를 제공할 것으로 봄

우리에게는 하위 처리자가 아니므로 즉시 금지됨. 하위 처리자 목록 업데이트도 망쳐 놓았음 클라우드 내부에서 처리하는 방식이었다면 신경 쓰지 않았겠지만, 거버넌스도 통제도 없으니 시작부터 불가능함

이건 온갖 앱에서 제외 조건이 됨
UKGov용 앱 몇 개를 작업해 봤는데, 나였다면 이걸 거대한 위험 신호로 반드시 올렸을 것임

그걸로 끝임. Fable로 기밀 데이터를 돌린다면 그걸 공짜로 넘겨주는 것임
어쩌면 예전부터 그랬을 수도 있지만, 이제는 명시적으로 요구함

Mythos 성능에 대한 믿음 때문에 스스로 발등을 쏘려는 Anthropic의 의지는 인정해야 함

더 이상한 건 이 모델들이 기업에만 제한 없이 제공될 텐데도 여전히 데이터를 저장해야 한다는 점임 게임 플랜이 뭔가?