공식 문서 제출 (The Filing)

Anthropic은 기업 역사상 가장 정교한 미션 보호 메커니즘을 구축했습니다. 월스트리트(Wall Street)가 기회를 잡기도 전에 펜타곤(Pentagon)이 그 미션을 가로챘습니다.

Anthropic은 2026년 6월 1일에 기밀 S-1(상장 신청서)을 제출했습니다. 이 회사는 9,650억 달러의 기업 가치를 지니고 있으며, 연간 매출 470억 달러를 예상하고 첫 수익성 있는 분기를 기대하고 있습니다. 공개 기업이 되는 과정에서 발생하는 압박으로부터 자사의 안전 미션(safety mission)을 보호하기 위해, Anthropic은 기업 역사상 가장 정교한 거버넌스(governance) 메커니즘인 장기 이익 신탁(Long-Term Benefit Trust, LTBT)을 구축했습니다.

LTBT는 5명의 독립적인 수탁자(trustees)와 점진적으로 확대되는 이사회 권한을 가진 델라웨어 목적 신탁(Delaware purpose trust)입니다. 이 신탁은 위험 보고서에 대한 외부 검토를 요청할 수 있고, 외부 검토자 선정을 승인할 수 있으며, 회사로부터 정기적인 안전 브리핑을 받을 수 있습니다. 이사회 위원회나 자문단과 달리, LTBT는 Anthropic이 명시한 공익에 대한 수탁자 의무(fiduciary obligations)를 지닌 별도의 법적 실체로 존재합니다. 전체 구조는 주주들이 이익을 위해 회사가 안전을 타협하도록 강요하는 것을 방지하기 위해 설계되었습니다.

이 설계는 잘못된 위협을 겨냥했습니다.

2026년 2월, 피트 헤그세스(Pete Hegseth) 국방장관은 다리오 아모데이(Dario Amodei) CEO에게 금요일 최후통첩을 보냈습니다. 군사적 용도로 사용되는 Claude의 안전 가드레일(safety guardrails)을 제거하거나, 2억 달러 규모의 펜타곤(Pentagon) 계약을 포기하라는 것이었습니다. 이 위협에는 정부가 Huawei나 ZTE와 같은 외국 적대국에 부여하는 라벨인 "공급망 리스크(supply chain risk)"

며칠 지나지 않아, 회사는 수정된 책임 있는 스케일링 정책 (Responsible Scaling Policy, RSP)인 RSP v3를 발표했습니다. 구속력 있는 일시 중단(binding pause) 조항은 사라졌습니다. 모델의 능력이 회사의 통제 능력을 초월할 경우 개발을 중단하겠다는 Anthropic의 핵심 안전 약속은, 구속력이 없는 로드맵(roadmaps)과 유연한 프레임워크(frameworks)로 대체되었습니다. 독립 평가 기관인 SaferAI는 Anthropic의 점수를 2.2에서 1.9로 하향 조정하며, OpenAI 및 Google DeepMind와 함께 "취약(weak)" 카테고리에 배치했습니다. OpenAI는 펜타곤(Pentagon) 계약을 따냈습니다.

LTBT는 아무런 말도 하지 않았습니다. 그것은 이런 상황을 위해 설계되지 않았습니다.

이러한 패턴에는 전례가 있으며, 그 모든 것은 한 방향을 가리키고 있습니다. Google은 2004년에 "악해지지 말자(Don't be evil)"를 모토로 채택했습니다. 이 문구는 어떠한 법적 효력도, 거버넌스 메커니즘(governance mechanism)도, 집행 기구도 갖추고 있지 않았습니다. 14년이 넘는 시간 동안, Project Maven, 광고 인센티브, 그리고 원칙을 지키기에는 너무 커져 버린 기업의 느린 표류를 통해 수천 번의 작은 결정들로 인해 그 가치는 침식되었습니다. Google은 2018년 행동 강령에서 이 모토를 폐기했습니다. 단 한 번의 순간이 그것을 죽인 것이 아니었습니다.

Ben & Jerry's는 공식적인 경로를 택했습니다. 이 회사는 사회적 사명을 정관에 내재화하며 인증된 B Corporation이 되었습니다. Unilever는 2000년에 이 회사를 3억 2,600만 달러에 인수하며 사명을 보존하겠다고 약속했습니다. 10년 이내에, Unilever는 조달 결정과 노동 관행에 있어 창업자 이사회의 결정을 무시하기 시작했습니다. 25년간의 침식 끝에, 2025년 Unilever는 Ben & Jerry's를 분사했습니다. 그 구조는 결코 유지되지 못했습니다.

Patagonia의 Yvon Chouinard는 이 패턴을 명확하게 보았습니다. 2022년, 그는 회사를 상장하거나 매각하는 대신, 완전한 소유권을 목적 신탁(purpose trust)과 비영리 단체로 이전했습니다. Patagonia는 공개 시장에 진입하지 않을 것이기에, 공개 시장의 압박을 결코 받지 않을 것입니다. Chouinard는 인내 대신 퇴장을 선택했습니다.

오늘날 약 20개의 상장된 benefit corporation (혜택 기업)이 존재합니다. Warby Parker, Allbirds, Lemonade, Vital Farms가 그 예입니다. 이들의 PBC (Public Benefit Corporation) 정관은 이사들이 주주 수익과 함께 미션 (mission)을 함께 고려할 수 있도록 법적 보호를 제공합니다. 세이프 하버 (Safe harbor) 조항은 단기 이익을 감소시키는 미션 중심적 결정으로 인해 발생할 수 있는 소송으로부터 선의의 이사회를 보호합니다. 이 법적 구조는 실재하며 검증되었습니다.

이러한 메커니즘 중 그 어느 것도 자본 포획 (capital capture)을 위해 설계되었습니다. 강제적 권한을 가진 주권자 (sovereign)를 위해 설계된 것은 아무것도 없습니다.

Anthropic의 상황은 Google의 느린 표류나 Ben & Jerry's의 기업 흡수와는 범주적으로 다릅니다. 정부가 특정 제품에 대한 특정 안전 약속을 변경하기 위해 적대적 규제 지정 및 법적 강제성을 포함한 직접적인 강제력을 행사했습니다. LTBT의 확대된 이사회 권한과 외부 검토 권한은 주주 압박에 저항하기 위한 도구입니다. 이들은 국방물자생산법 (Defense Production Act)에 대해서는 어떠한 관할권도 갖지 않습니다.

S-1 제출 (S-1 filing)은 이 과정을 공식화합니다. Anthropic은 거버넌스 (governance) 메커니즘은 온전하게 유지되지만, 핵심 안전 약속은 이미 축소된 상태의 기업으로서 공개 시장에 진입할 것입니다. Anthropic을 다른 모든 프런티어 랩 (frontier lab)과 차별화했던 단 하나의 약속인 구속력 있는 일시 중단 (binding pause)은 단 한 주의 주식이 거래되기도 전에 제거되었습니다. Wall Street가 예상된 위협이었으나, Washington이 먼저 도착했습니다.

분기별 테스트는 간단합니다. 세 가지 신호를 추적하십시오: 총 매출 대비 정부 계약 매출의 비율, SaferAI 안전 등급 궤적, 그리고 각 RSP 수정 시 포함된 (열망적인 것이 아닌) 구속력 있는 안전 약속의 수입니다. 만약 정부 매출이 총 ARR (연간 반복 매출)의 10%를 초과하고, IPO 이후 4분기 연속으로 안전 등급이 2.0 미만으로 유지된다면, 이 제출은 이미 미션이 포획된 기업을 공식화한 것이 됩니다.

만약 Anthropic이 IPO(기업공개) 후 12개월 이내에 RSP v2의 구속력 있는 일시 중단 (binding pause)과 동등한 강력한 약속 (hard commitments)을 복구한다면, LTBT는 그 설계가 입증된 것이 됩니다. 하지만 선례들은 그렇지 않을 것임을 시사합니다.

원문은 The Synthesis에 게시되었습니다 — 지능의 전환 (intelligence transition)을 내부에서 관찰하며.