Anthropic는 도덕적 언어로 비즈니스 모델을 포장한 뒤, 불투명한 모델 동작, 반경쟁적 접근 규칙, 규제 압박, 그리고 빌더, 스타트업

Anthropic은 비즈니스 모델을 도덕적 언어로 포장한 뒤, 그 언어를 사용하여 불투명한 모델 동작, 반경쟁적인 접근 규칙, 규제 압박, 그리고 빌더, 스타트업, 연구자, 오픈소스 (Open Source) 커뮤니티가 소수의 축복받은 프런티어 랩 (Frontier Labs)의 하위 단계에 머물게 되는 미래를 정당화하는 데 사용하고 있는 기업이다.

만약 코딩 또는 연구 모델이 사용자를 허용되지 않은 프런티어 작업 (Frontier work)을 수행하는 것으로 분류했다는 이유로 답변의 품질, 방향 또는 신뢰성을 비밀리에 변경한다면, 그 도구는 더 이상 단순히 "안전한" 것이 아니다. 그것은 신뢰할 수 없는 것이다.

Anthropic의 해자 (Moat)는 허가 체제 (Permission regime)가 되는 것이다. 매일같이 경쟁사들과 인수 대상 기업들은 접근 권한이 사라질 수 있다는 사실을 발견한다. 이 회사는 정부에 안전 프레임워크 (Safety frameworks), 배포 게이트 (Deployment gates), 사고 보고 (Incident reporting), 평가 체제 (Evaluation regimes), 그리고 기존 기업들이 생존하기에 가장 유리한 위치에 있는 미래의 일시 중단 (Pauses)까지 축복해 달라고 요청한다.

당신이 경쟁 컴파일러를 만들고 있다고 생각할 때 더 나쁜 바이너리 (Binaries)를 생성하는 컴파일러를 상상해 보라. 제조사가 연구 방향을 싫어한다는 이유로 특정 샘플을 흐릿하게 만드는 현미경을 상상해 보라. 당신의 코드베이스가 미래의 라이벌과 닮았을 때만 거짓말을 하는 디버거를 상상해 보라.

싸움의 핵심은 지능이 사람들이 소유하고, 검사하고, 수정하고, 로컬에서 실행하고, 미세 조정 (Fine-tune)하고, 연구하고, 라우팅 (Route)하며 개선할 수 있는 것이 될 것인가, 아니면 당신의 접근을 거부하고, 저하시키고, 감시하고, 보유하고, 취소하고, 경로를 재설정하거나, 로비하여 없애버릴 수 있는 기업들에 의해 운영되는 구독형 허가 계층 (Subscription permission layer)이 될 것인가 하는 점이다.

Anthropic은 인터넷, 저작권이 있는 도서, 코드, 공개 지식, 허용될 경우의 사용자 피드백, 합성 데이터 (Synthetic data), 그리고 자체 모델로부터 학습할 수 있다. 하지만 개발자가 경쟁력 있는 오픈 어시스턴트 (Open assistant)를 부트스트랩 (Bootstrap)하기 위해 Claude를 사용한다면, Anthropic은 반칙이라고 부른다. 이 회사는 안전 제어 (Safety controls)가 상실될 수 있으며, 경쟁 모델이 프런티어 시스템을 구축하는 데 필요한 투자를 저해한다고 주장한다.

만약 Anthropic이 공익을 위한 안전 기관(public-interest safety institution)처럼 대우받기를 원한다면, 고객이 대안을 구축하는 데 너무 가까이 다가갈 때마다 과도하게 민감한 플랫폼 독점 기업(platform monopolist)처럼 행동해서는 안 된다.

물론 기업들은 자신들의 지식재산권 (IP)을 보호한다. 하지만 Anthropic은 일반적인 SaaS 위젯 (SaaS widget)을 판매하는 것이 아니다. 이들은 인지 (cognition)를 인프라 (infrastructure)로서 판매하고 있다. 인지가 인프라가 되는 순간, 반경쟁적인 접근 제어 (anti-competitive access control)는 더 이상 일반적인 공급업체 간의 분쟁이 아니라 사회적 병목 현상 (social bottleneck)이 된다.

Anthropic은 안전 (safety), 보안 (security), 그리고 책임감 있는 배포 (responsible deployment)를 누가 무엇을 구축할 수 있는지에 대한 통제 기제로 반복해서 전환시키고 있다.

우리는 그들을 신뢰할 수 없다.