Video: 중국 정부 기밀 정보, Claude로… 앤트로픽 베끼려다가 중국 기밀이 Claude로 넘어간 현 상황 | 딥시크·키미 황당한 역유출 | 러시아 정보도?
Channel: 안될공학 - IT 테크 신기술
Duration: 9m 20s
Source: subtitle (auto, ko)
Transcript:
네, 여러분 안녕하세요. 패치입니다. 러시아 국방부랑 연관된 정부 기관의 실제 데이터베이스 접속 정보가 미국 AI 기업인 엔트로픽의 클로드로 넘어갔습니다. 중국에서는요. 수백대 CCTV에서 나온 감시 자료가 클로드로 들어왔고요. 그리고 중국 공항 기관을 위해서 시민들의 이동 기록이랑 경찰 기록을 대조하는 시스템을 개발하던 내용도 클로드로 전달이 됐습니다. 그런데 정말 이상하죠.이 이 사람들이 클로드를 쓰던게 아니었거든요.이 사용자들은 딥크랑 키미 같은 중국 AI를 쓰고 있었습니다. 그런데 왜 중국 AI 사용자들의 데이터가 미국 경쟁사인 엔트로픽까지 들어왔을까요? 앤트로픽이 9월 10일 공개한 보고서를 따라가 보면 꽤 아이러니한 이유가 나옵니다. 앤트로픽 주장에 따르면요. 문샷 AI랑 딥시크는 경쟁사인 클로드의 능력을 자기 모델로 가져오기 위해서 대규모 증류 작업을 버리고 있었습니다. 그러니까 클로드한테 많은 문제를 풀게 하고요. 그 결과를 자기 모델의 학습 재료로 이용을 하는 거죠. 그런데이 과정에서 연구으로 만든 벤치마크 질문뿐만이 아니라 실제 자기 고객들의 진짜 요청까지 클로드를 보내기 시작을 한 거예요.

근데 여기에서 바로 예상하지 못한 부작용 사고가 터진 겁니다. 왜냐하면 진짜 고객의 요청 안에는 벤치마크 문제만 있는게 아니었거든요. 회사 문서도 있고 코드도 있고 CCTV 자료도 있고요. 그리고 서버에 접속하기 위한 정보도 있습니다. 그러니까 결국 경쟁사 기술을 가져오기 위해서 만든 그 파이프라인으로 자기 고객의 민감한 데이터까지 경쟁사한테 흘러가게 돼 버린 거죠. 먼저 키미를 만드는 문 AI 사례를 한번 볼게요. 엔트로픽이 파악한 구조는 이런데요. 일단 사용자가 키미한테 질문을 합니다. 그런데 일부 요청은 키미가 직접 처리하지 않고 프록시 계정을 거쳐서 클로드 오피스에 넘어가죠. 클러드가 답을 만들면 그 결과를 다시 받아서 키미 사용자한테 보여 주는 겁니다. 그렇게 되면 사용자는 계속 키미 화면을 보고 있으니까 키미가 답했다고 생각을 했겠죠. 그런데 문샷은 이렇게 오가는 질문이란 클로의 답변을 모델 개발에도 활용을 하고 있었던 겁니다. 엔트로픽은 열흘 동안 실제 고객 요청 거의 30만 건이 이런 방식으로 클로드에 전달이 됐다고 밝혔습니다.

사용된 프록시 계정도 무려 5,000개가 넘었다고 하고요. 그러니까 경쟁사 모델을 그냥 몇 번 테스트해 본 정도가 아니라 진짜 상당한 규모의 시스템을 만들어서 체계적으로 돌렸다는 거죠. 여기에서 나오는게 바로 증류 디스틸레이션입니다. 좋은 모델이 만들어낸 출력물을 다른 모델의 학습 재료로 이용을 하는 기술인데요. 증류 자체는 AI 업계에서 정상적으로 사용이 되고 있어요. 근데 엔트로픽이 문제 삼는 건 이거를 서비스 제한을 우회해 가지고 클로드를 대규모로 호출을 했고 그 결과를 경쟁 모델 개발에 이용을 했다는 부분입니다. 그리고 실제 고객 요청을 여기에 섞으면서 이제 진짜 문제가 시작이 된 거죠. 키밀를 이용하던 한 사용자는 중국 청두 지역의 수백대 CCTV에서 나온 감시 자료를 가지고 특정 인물의 행동을 분석을 하고 있었는데요. 엔트로픽에 따르면 일부 자료에는 중국 군시설이랑 구경기업, 연구 기관 주변 카메라까지 포함이 되어 있었다고 합니다. 그리고 여러 정황을 토대로이 사용자가 중국 인민 해방군이랑 연관이 됐을 가능성이 높다고 평가를 했고요.

물론이 사람이 실제 중국군 관계자로 확인이 됐다는 의미는 아닌데요. 이거는 다만 엔트로픽의 평가입니다. 근데 더 중요한 건 데이터의 경로입니다. 사용자는 키미한테 CCTV 분석을 맡겼는데이 요청이 클로드로 넘어가게 되면서 분석에 필요한 감시 자료도 함께 엔트로픽으로 전달이 된 거죠. 이런게 딥시크에서도 비슷한 구조가 발견이 됐습니다. 엔트로픽에 따르면 딥시크는 클로드 코드나 오픈 코드 같은 코딩 도구를 통해서 자사 모델을 이용을 하는 일부 사용자를 식별를 하고요. 그 요청을 클러드 오피스로 전달을 했습니다. 여기에서 러시아 정부 기관 사례가 나오게 되는데요. 러시아 국방부랑 연관된 정부 기관의 데이터를 다루고 있던 IT 담당자가 딥시크를 사용을 했어요. 그 작업에는 실제로 사용 중인 러시아 정부 데이터베이스의 접속 정보도 포함이 되어 있었고요. 그리고 그 요청이 클로드로 중계가 된 겁니다. 여기서는 이게 민감한 이야기인만큼 꼼꼼하게 따져 봐야 되는데요. 이게 러시아 군사기밀가 미국으로 넘어갔다는 그런 이야기는 아니고요.

어 엔트로픽이 접속 정보를 이용해 가지고 뭐 데이터베이스에 들어갔다거나 내부 자료를 가져갔다 이런 내용도 보고서에는 없습니다. 다만 확인이 되는 건 실제 정부 기관 데이터베이스의 접속 자격 정보가 사용자가 예상하지도 못했던 미국 A의 협체까지 전달이 됐다는 거죠. 문서 자체뿐만이 아니라 경우에 따라서는 문서가 있는 방을 그 열 수 있는 그런 열쇠까지 넘어간 셈입니다. 다른 사례도 있었는데요. 중국의 한 공항국을 위해서 국민의 신분증 번호랑 이동내어 그리고 경찰 기록을 대조하는 사건 관리 시스템을 개발하던 요청도 클로드로 전달이 됐다고 합니다. 중국의 한 기술 기업 직원이 딥식한테 분석을 맡긴 자사 핵심 AI 프로그램의 사양이랑 조직 구조, 전략 목표 같은 내부 자료까지 클로드까지 들어왔어요. 그런데 엔트로픽 보고서를 보면 문사씨랑 딥시크가 노리고 있던 건 클로드의 최종 답변만이 아니었습니다. 클로드가 답을 어떻게 만들어 내는지 그 출론 과정까지 확보를 하려고 했던 거죠. 클로드 API에는 내부 출론이랑 연결된 think킹 시그네처라는 정보가 있는데요.

엔트로픽은 문샷시이 값을 저장을 했다가 다른 세션에서 다시 사용을 해서 그런 추론 내용을 좀 보건하려고 하는 방식을 썼다고 설명을 합니다. 보고서에서는 이거를 크로스세션 리플레이라고 부르고요. 딥시크에서도 비슷한 패턴이 발견이 됐는데요. 근데 세부적인 방식보다 중요한 건 이게 단순히 경쟁 모델의 정답 몇 개를 참고한게 아니라 그 모델이 문제를 풀어가는 방식까지 이제 학습 데이터로 확보를 하려고 했다는 거죠. 이게 정말 중요한 포인트인 겁니다. 그리고 심지어 그 규모도 작지가 않아요. 엔트로픽은 2026년 5월부터 7월까지 문샷세 귀속시킨 증류 관련 교환이 2,300만 건 이상이었다고 밝혔습니다. 그리고 딥시크에서는 7월 약 2주간 1,210만 건 이상을 관찰을 했다고 하고요. 뭐 엔트로픽의 분석이 봤다면 경쟁 모델의 능력을 체계적으로 가져오기 위한 대규모 파이프라인이 운영이 되고 있었던 겁니다. 그리고 예상치 못하게 그 파이프라인을 통해서 거꾸로 민감한 정보, 그러니까 국가 기밀들이 빠져나가고 있었던 거고요.

그런데이 보고서가 국가 기간 이야기에서만 끝나는게 아니에요. 오히려 여기서부터 우리 일상이랑 훨씬 가까워지는데요. 어떤 제약 회사 직원은 AI한테 회사 내부의 케펙스 계획을 분석을 시켰습니다. 2026년부터 2028년까지 해외 생산 시설을 어디에 얼마나 확장을 할지 그리고 각 지역에 얼마를 투자를 할지가 들어 있는 자료였는데요. 생각해 보면 흔히 회사에서 엑셀 하나 열어 놓고 자, 목요일 회의 전에 이것 좀 정리해 줘. 이렇게 할 법한 일이죠. 그리고 또 다른 개발자는요. 알림봇이 왜 안 되지? 이러면서 설정 파일을 통제로 AI한테 보여 줬어요. 그 파일 안에는 텔레그램보 토큰이랑 페이시크립 노션 인테그레이션 키 같은 진짜 사용할 수 있는 접근 정보도 들어 있었습니다. 이게 일부러 비밀 번호로 공개하려고 했던 건 아니고요. 그냥 문제를 해결을 하려고 필요한 파일을 AI한테 보여 준 거죠. 그런데 이런 실제 업무 데이터 역시도 중국 AI 서비스의 요청이 클로드로 중계되는 과정에서 함께 전달된 사례로 보고서에 등장을 했습니다.

이렇게 되면이 지점부터는 이게 단순히 중국 AI 업체만의 문제가 아닙니다. 요즘 AI한테 일을 맡기면 우리가 채팅창에 직접 입력한 문장만 보는게 아니잖아요. 코딩 에이전트한테이 오류 좀 고쳐 줘라고 하면 얘가 알아서 프로젝트 파일을 열고 설정 파일을 확인을 하고 터미널 실행을 하고 로그도 읽고 필요하면 저장소 전체를 검색을 합니다. 그렇게 하다 보면 API 키도 볼 수 있고 회사 서버 주소나 데이터베이스 구조 그리고 산 코드도 읽게 되죠. 예전에는 어 내가 AI한테 무엇을 입력했지? 요거를 신경을 썼다면 이제 에이전트 시대에는이 AI가 일을 하면서 무엇까지 같이 볼 수 있었지? 이거를 같이 봐야 합니다. 그리고 이번 사건은 여기에다 하나를 더 붙이는데요. 그 정보가 실제로 어디까지 전달이 됐지? 이것도 봐야 해요. 우리는 채지피pt라든가 클로드 젤미나의 딥크처럼 화면에 적힌이 서비스 이름을 보고 AI를 선택을 하는데요. 그런데 실제 서비스 뒤에서는 여러 모델의 나눠서 맡을 수도 있고 검색이나 코딩, 브라우저, 외부, API 같은 다른 시스템이 연결이 될 수도 있습니다.

물론 이런 구조 자체가 문제라는 건 아닌데요. AI가 더 복잡한 일을 하게 될수록 여러 가지 모델이랑 도구를 조합하는 방식은 오히려 흔해질 거예요. 중요한 건 사용자가 어떤 데이터가 누구한테 전달되는지를 알 수 있느냐 그거입니다. 그리고 이거는 고객 데이터는 모델 학습에 사용하지 않습니다라는 문구랑도 조금 다른 문젠인데요. 학습에 사용하지 않는다는 건 보통 내 데이터를 나중에 그 자기의 모델 개선에 재사용하느냐 이거의 문제고요. 지금 당장 내 질문에 답하기 위해서 내 정보들이 어디로 전송이 되고 누가 처리를 하고 얼마나 보관하는지 이거는 또 별도로 봐야 합니다. 그러니까 번역 회사에다가 회사 문서를 맡기면서 이걸 다른 용도로 재사용하지 마세요 하는 것이랑 비슷한데 그 약속이랑 별개로 일단 번역을 하려면 문서를 받아서 봐야겠죠. 그런데 내가 모르는 사이에 그 문서가 또 다른 업체로 이렇게 넘어간다면 이거는 이야기가 달라지는 거잖아요. 그래서 처음 이야기로 다시 돌아가 보면 러시아 정부의 데이터베이스 접속 정보랑 중국 CCTV 자료가 왜 클로 있었을까요?

누군가 작정하고이 정보를 엔트로픽에 넘긴게 아니었죠. 경쟁사 모델의 능력을 가져오려고 구축한 그 경로에 실제 고객 요청까지 자기가 넣으면서 그 요청에 딸려 있던 민감 정보도 함께 이동을 해 버린 겁니다. 이게 이번 사건에 가장 골때리는 부분이에요. 그리고 앞으로 AI가 메일을 읽고 파일을 열고 코드 고치고 산의 데이터베이스까지 연결이 될수록이 문제는 더욱 더 중요해질 겁니다. 우리가 이제 확인을 해야 할 것도 단순히 AI한테 어떤 비밀을 입력했느냐 이거에서 끝나는게 아닙니다.이 이 AI가 일을 처리를 하면서 뭘 받고 그리고 그 정보가 실제로 어디까지 갔는지 이번 엔트로픽 보고서는 그 질문이 생각보다 훨씬 더 빨리 현실적인 문제가 되고 있다는 걸 보여 줍니다. 여러분도 좀 조심하셔야겠죠? 그럼 오늘은 여기까지 패치였습니다.