HN 댓글에서 공개 가중치와 비미국산 모델을 적대시하는 논조가 꾸준히 늘어나는 게 흥미로움. 어제는 다른 글에서 자유·오픈소스 코딩 에이전트 제공업체가 “싸구려 형편없는 모델을 홍보한다”는 댓글까지 봤음. Anthropic/OpenAI의 위장 여론전이거나 심각한 약물 남용으로 판단력이 손상된 사람이 쓴 글처럼 느껴지며, 그보다 합리적인 제3의 설명은 쉽게 떠오르지 않음.
DeepSeek에는 훌륭한 광고이며, 개방형 모델이 이기고 있다는 분명한 신호임.
민간 행정기관에 “DeepSeek 구현을 사용해 개발한 제3자 제품과 서비스”를 모두 제거하라는 건 정확히 어디까지를 뜻하는지 궁금함. DeepSeek 모델을 직접 사용하는 도구만 해당하는지, DeepSeek으로 작성한 코드나 라이브러리가 들어간 소프트웨어까지 포함하는지?
DeepSeek Flash가 현재 가장 인기 있는 공개 가중치 모델일 가능성이 큰 만큼, 후자라면 상당히 복잡해질 수 있음.
명령의 대상은 기업으로서의 DeepSeek에 한정되며, “구현”은 DeepSeek에서 직접 제품을 구매해 사용하는 제3자 소프트웨어를 뜻함.
명령에서 계열 관계는 개인이나 기업이 직간접적으로 상대를 지배하거나 지배할 수 있는 경우, 또는 제3자가 양쪽을 지배하거나 지배할 수 있는 경우로 정의함. 공개 모델 가중치는 제품이나 서비스가 아니므로 해당하지 않으며, 이 정의상 DeepSeek과 관계없는 독립적인 가중치 호스팅 업체에도 적용되지 않음.
정부 계약업체가 DeepSeek을 어떤 용도로도 쓰지 못하도록 겁주려고 의도적으로 모호하게 쓴 지침처럼 들림.
이제 Linux에 DeepSeek으로 작성한 코드가 들어가면 어떻게 되는지? 의존하는 모든 소프트웨어까지 금지 대상이 되는 건지?
전체 맥락을 다 알지는 못하지만, 가중치가 공개되고 자체 호스팅도 가능한 경우 실제 보안 위험은 무엇인지? 그런 경우까지 금지한다면 국가안보 위험으로 포장한 규제 포획에 가까운 것 아닌지?
Anthropic과 OpenAI가 돈을 잃을 수 있으니 이를 막으려고 강하게 로비한 것임.
특정 상황에서 데이터를 유출하거나 백도어를 심도록 후속 학습시킬 수 있음. 모델이 특정 맥락에서 테스트를 작성하거나 도구를 호출하도록 학습하듯, 공격자도 은밀한 공격을 수행하도록 학습시킬 수 있음.
실제로 이런 일이 벌어졌을 가능성은 매우 낮다고 보지만, 가능성 자체는 있으며 가중치를 정적으로 분석해 사전에 판별할 실질적인 방법도 없음.
모델에 악성코드나 보안 취약점이 있을 수는 있음. 그래도 가중치가 공개되어 검토할 여지는 있으며, OpenAI와 Anthropic 같은 미국 추론 서비스 제공업체에는 그마저도 해당하지 않음.
검토 가능성은 BSP의 바이너리 덩어리나 Windows Update로 받는 제3자 드라이버와 비슷한 수준임.
실질적으로 검토가 가능할지 모르겠음. 악성코드를 작성하도록 의도적으로 숨겨 둔 트리거를 가중치에서 어떻게 찾아내는지?
검토할 수 있을 뿐 아니라 후속 학습을 통해 성능과 정렬 양쪽에서 원하는 동작을 얻을 수도 있음.
중국 기업인 DeepSeek은 세계 시장에서 조금이라도 받아들여지려면 가중치를 공개해야 함. 제품이 오픈소스가 아니었다면 중국 기업의 제품 사용을 꺼릴 사람이 많았을 것임.
중국산 모델 전체가 아니라 DeepSeek만 콕 집는 것도 이상함.
중국 공개 가중치 모델에는 GLM, Qwen, Kimi, Minimax 등도 있는데, 왜 하필 DeepSeek만 겨냥하는지?
DeepSeek은 의회 의원들도 이름을 아는 모델이기 때문임. Nvidia 주가가 이른바 DeepSeek 충격으로 내려갔던 일을 떠올려 보면 됨. 주가 하락과 연결되면서 강력한 적을 만든 셈임.
의회에서는 “Minimax”가 뭔지도 모르니, 적어도 당장은 차별을 피할 수 있음.
다른 모델들은 아직 다가오는 기업공개를 위협할 수준이 아니기 때문임.
다른 모델들도 곧 겨냥할 것임. 조금만 기다려 보면 됨.
지금 가격과 지능 면에서 가장 강력한 경쟁자이기 때문임. 금지 자체만으로도 다른 후원자와 투자자에게 두려움을 심을 수 있음.
이렇게 특정 모델만 겨냥하면 규제 포획이 아니라 “이 모델이 특별히 위험하다”는 보안 조치인 척할 수 있음. 다른 모델도 경쟁자가 되면 위험하다고 선언하겠지만, 투자자가 조심하게 되니 경쟁자로 성장할 가능성부터 낮아짐.
일단 반응을 떠보는 것으로 보임.
위험 요약에는 DeepSeek 서버가 중국에 있고, 중국법이 정부의 사이버·정보 기관에 민간 기업 인프라 접근을 위한 광범위한 권한을 허용한다고 적혀 있음. 결국 미국 CLOUD Act의 중국판이라는 건지?
대부분의 국가는 정부가 민간 기업 인프라에 접근하는 것을 허용함.
금지 근거를 옮기면 다음과 같음. 중국 소재 민간 외국 기업인 Hangzhou DeepSeek Artificial Intelligence Basic Technology Research Co., Ltd.는 여러 AI 애플리케이션을 무료로 널리 제공하며, 그 모델에는 여러 위협 경로가 존재함. 서버가 중국에 있고 중국 정부가 민간 인프라에 접근할 광범위한 법적 권한을 보유함. DeepSeek이 호스팅하는 모델은 계정 생성 과정에서 개인 식별 정보를 수집하며, 사용자를 추적하고 디지털 지문을 생성할 수도 있음. 미국 정부 직원이나 계약업체가 프롬프트로 정보를 입력하면 민감한 데이터가 중국으로 이전될 수 있고, 이 정보는 단독으로 또는 공개 데이터와 결합해 미국인이나 정부 사업에 관한 활용 가능한 첩보가 될 수 있음. 모델 자체에 악성코드나 보안 취약점이 있을 수 있으며, 실제 공개 보안 연구에서 DeepSeek iOS 앱의 중대한 취약점이 여러 건 발견됨.
여기서 “중국”을 “미국”으로, DeepSeek을 OpenAI/Anthropic으로, “미국”을 다른 나라로 바꾸고 마지막 문장만 빼면 어떻게 들리는지? 양국 모두 그냥 가장 가까운 경쟁자라서 금지한다고 솔직히 말해도 될 듯함.
“모델 자체에 악성코드나 다른 보안 취약점이 있을 수 있다”는 근거로 로컬 추론까지 금지하고 있음. 다만 실제로 모델에 악의적인 조작이 가해졌다는 증거를 찾은 것 같지는 않음.
“DeepSeek 구현을 사용해 개발한 제3자 제품과 서비스”라는 문구대로라면 다른 제공업체가 가중치를 호스팅하는 경우까지 금지하는 듯함. 기관 내부에서 완전히 로컬로 호스팅해도 금지될 수 있음.
놀랍지는 않지만 상당히 노골적임. 미국 기관이 뭘 하든 크게 신경 쓰지는 않지만, 앞으로 이어질 여러 조치의 첫걸음처럼 보임.
현 체제도 지금의 노선이 충성의 보상인 주주 신뢰를 훼손한다는 점을 조금은 인정하고 있음. 그런데도 밀어붙인다는 것은 진행 중인 변화를 통제하지 못하면서도, 손놓았을 때의 결과가 너무 파국적이라 러시안룰렛 같은 도박이 낫다고 여긴다는 뜻임. 서구 문명 전체가 산사태처럼 움직이는데, 오두막 안에서는 여전히 규칙이 유효하다며 “문 앞에서 스키 부츠의 눈부터 털라”고 요구하는 식의 법임.