프론티어 AI 접근이 공급망 문제가 되다

백악관이 Anthropic과 OpenAI의 새로운 프론티어 모델에 어떤 기업들이 접근할 수 있는지 통제하고 있는 것으로 알려졌다. CNBC에 따르면, Anthropic의 Project Glasswing과 OpenAI의 Daybreak 파트너 목록은 이제 명시적인 정부 승인이 필요하다. 백악관은 출시 결정권이 여전히 회사에 있으며 참여는 자발적이라고 밝혔다.

법률적으로만 따지면 두 가지 모두 사실일 수 있지만, 실제로 당신의 회사가 무엇을 구축해야 할지 결정하는 사람 입장에서는 쓸모가 없다.

모델이 월요일에는 사용 가능했다가 금요일에 중단되고, 아무도 볼 수 없는 논의 끝에 복구된다면, 실질적인 질문은 더 이상 '어떤 모델이 가장 좋은가?'가 아니다. 그것은 '누가 이 의존성을 끌 수 있는가?'이다.

그것은 공급망(supply chain)에 대한 질문이다.

접근 목록이 벤치마크보다 중요하다

대부분의 개발자들은 모델 위험을 마치 모델 내부에 존재하는 것처럼 이야기한다. 환각(Hallucinations). 프롬프트 인젝션(Prompt injection). 잘못된 평가(Bad evals). 너무 많은 로프를 가진 도구 호출(Tool calls with too much rope) 등 모두 실제 문제이다.

하지만 이 이야기는 다른 계층에 관한 것이다. 모델은 작동할 수 있다. API는 안정적일 수 있고, 당신의 코드는 지루할 수 있다. 그러다가 정책이 당신 위에서 움직이며 의존성의 형태가 바뀐다.

Anthropic의 Mythos와 Fable 모델은 이미 특이한 사례였다. 이들은 사이버 보안 작업용으로 구축되었는데, 이는 바로 '이중 용도(dual-use)' 경계가 지저분해지는 영역이다. 방어적 도구링과 공격적 역량이 종종 같은 기본 원리(primitives)를 공유한다. 취약점을 찾아낼 수 있는 모델은 또한 누군가가 그것을 악용하는 데 도움을 줄 수도 있다. 이것이 정부의 관심을 예측 가능하게 만든다.

하지만 예측 가능하다는 것이 깨끗하다는 것을 의미하지는 않는다.

CNBC에 따르면 Anthropic과 OpenAI는 제한된 사이버 모델의 파트너 목록을 자체적으로 결정해 왔습니다. 이제 이 목록들은 Gold Eagle이라는 백악관 청사(clearinghouse)를 통해 검토되고 있습니다. 한 백악관 관계자는 정부가 민간 AI 출시를 승인한다는 생각에 이의를 제기했습니다. CNBC가 설명하는 운영상의 현실은 여전히 일종의 관문입니다. 만약 연구소(lab)가 정부의 지시에 따라 모델 접근 권한을 변경한다면, '승인'이라는 단어가 슬라이드에 나타나든 아니든 의존성은 통제됩니다.

이것이 개발자들을 불안하게 만들어야 할 부분입니다. 규제가 자동적으로 나쁘다는 의미는 아닙니다. 프론티어 사이버 모델은 아마도 JavaScript 프레임워크처럼 그냥 던져지면 안 될 것입니다. 불안한 부분은 그 임시적(ad hoc) 형태입니다.

공개된 규칙서가 없습니다. 지속 가능한 기관 프로세스가 없습니다. 명확한 항소 경로도 없습니다. 단지 회사들, 국가 안보 압력, 그리고 파트너 목록만 있습니다.

이것은 나쁜 인터페이스입니다.

개발자들은 정치적 의존성 가격 책정에 서툽니다

우리는 기술적 의존성을 가격에 매기는 것에 익숙합니다. 데이터베이스 복제(replication)가 약하면 알아차립니다. 큐(queue)의 재시도 의미론(retry semantics)이 이상하면 기록합니다. API에 속도 제한(rate limit)이 있으면, 누군가가 결국 생산 환경에서 의자로 교훈을 얻은 후 대시보드를 추가합니다.

정치적 의존성은 그렇지 않기 때문에 더 어렵습니다. 정상적인 공급업체 위험처럼 보이다가 그러지 않을 때 문제가 됩니다.

한 회사가 프론티어 연구소와 계약을 체결합니다. 보안팀이 데이터 경로를 검토합니다. 조달 부서(Procurement)는 서류 작업의 늪에서 살아남습니다. 엔지니어들은 모델 주변으로 기능을 구축합니다. 그러다가 그 모델은 정부가 이번 달에 누구에게 편안함을 느끼는지에 따라 접근성이 결정되는 범주에 진입합니다.

이것은 서비스 중단(outage)과 같은 위험이 아닙니다. 가격 인상과도 같은 위험이 아닙니다. 수출 통제, 제재(sanctions), 클라우드 리전 가용성에 더 가깝습니다. 존재한다는 것을 인정한다면 설계할 수는 있지만요.

불편한 점은 많은 AI 로드맵이 여전히 모델 선택을 순수한 역량(capability) 결정으로 취급한다는 것입니다. 최고의 코딩 모델을 고르고, 최고의 사이버 모델을 고르고, 최고의 추론 모델을 고릅니다. 나머지는 공급업체 관리(vendor management) 항목으로 분류되어 잊힙니다.

이것만 해도 이미 게으른 접근 방식이었습니다. 이제는 잘못된 것입니다.

진지하게 사용하려면 질문 세트 자체가 바뀌어야 합니다.

제품을 다시 작성하지 않고도 모델을 교체할 수 있을까요?

지루한 경로를 위해 더 작거나 오픈 모델로 성능 저하(degrade) 할 수 있을까요?

어떤 기능이 한 연구소의 제한된 접근 계층에 조용히 의존하는지 알고 있나요?

정책 변경이 워크플로우를 깨뜨릴까요, 아니면 단지 느리게 만들까요?

모델이 무엇을 했는지 증명할 수 있는 로그가 있어서 감사 추적(audit trail)을 잃지 않고도 작업을 이동시킬 수 있을까요?

이 중 어느 것도 화려하지 않습니다. 이것은 배관 공사(plumbing)입니다. 그리고 보통 실제 레버리지(leverage)가 숨겨진 곳이 바로 이곳입니다.

오픈 모델은 압력 안전 밸브이자 다음 목표물

이에 대한 명확한 답변이 있습니다. 오픈 모델을 사용하세요. 가중치(weights)를 가능한 한 로컬에 유지하세요. 여러분이 만날 일이 없을 사람들에 의해 게이트가 될 수 있는 프론티어 API 주변으로 핵심 워크플로우를 구축하는 것을 피하세요.

저는 대체로 동의합니다.

문제는 오픈 모델 역시 같은 정책 싸움 쪽으로 나아가고 있다는 것입니다. 우려 사항이 사이버 역량이라면, 프론티어에 가까운 오픈 모델은 폐쇄형 API보다 통제하기가 더 어렵습니다. 다운로드를 취소할 수 없습니다. 키를 순환(rotate)시킬 수 없습니다. 이미 토렌트 상에 있는 모델에게 안전성 검토를 기다려 달라고 요청할 수도 없습니다.

그것이 오픈 모델이 금지되어야 한다는 의미는 아닙니다. 그것은 접근 논쟁이 단순히 폐쇄 대 오픈이라는 방식으로 끝나지 않는다는 것을 의미합니다. 폐쇄형 모델은 정부와 연구소에 레버리지를 제공합니다. 오픈 모델은 배포 후 그 레버리지를 제거하기 때문에, 이것이 바로 중요하고 정책 입안자들을 불안하게 만드는 이유입니다.

개발자를 위한 시사점은

폐쇄적인 프론티어 접근(Closed frontier access)은 더욱 조건적이 될 수 있습니다. 개방적인 프론티어 공개(Open frontier release)는 더욱 논쟁의 대상이 될 수 있습니다. 지역적 가용성(Regional availability)이 더 중요해질 수 있습니다. 사이버 및 바이오 역량 태그(Cyber and bio capability tags)가 단순한 블로그 게시물 면책 조항이 아니라 실제 제품 제약 조건이 될 수 있습니다.

만약 이 스택 위에서 무언가를 구축하고 있다면, 성숙한 접근 방식은 지루합니다. 추상화 계층을 얇게 유지하세요. 출력물뿐만 아니라 증거(evidence)를 저장하세요. 모델 라우팅(model routing)을 명시적으로 만드세요. 프론티어 역량이 필요한 부분과 저렴하고 유능한 모델만 필요한 부분을 분리하세요. 가장 좋아하는 모델이 일주일 동안 사라졌을 때 무슨 일이 발생하는지 적어보세요.

이것은 비관주의가 아닙니다. 이것은 개발자들이 클라우드, 결제 시스템(payments), 지도 서비스(maps) 등 API로 시작하여 결국 인프라가 된 모든 다른 의존성으로부터 배운 것과 같은 교훈입니다.

모델은 더 이상 단순히 모델이 아닙니다.

그것은 공급업체(vendor)이자, 정책 표면(policy surface), 그리고 공급망의 연결 고리입니다. 그것을 그렇게 취급하세요.

출처

• CNBC: 백악관의 프론티어 AI 접근 통제
• The Next Web: 골드 이글(Gold Eagle) 변화 요약
• Dark Reading: 미국 모델 제한 이후 주권 문제에 대한 우려
• TechCrunch: 프론티어 AI를 위한 독립적인 표준 기구 제안