Anthropic은 아무것도 되돌리지 않고 있다

(이 메시지를 전달하기 위해 AI를 사용했습니다)
Anthropic은 Claude가 조용히 더 약한 답변을 제공하거나 프런티어 AI (Frontier AI) 개발과 관련된 일부 요청을 우회하도록 방치했다는 비판을 받고 있습니다.
그들의 대응은 이제 다음과 같이 보입니다: 제한 사항을 더 눈에 띄게 만들되, 차단, 성능 저하(downgrade) 또는 액세스를 우회할 수 있는 권한은 그대로 유지하는 것입니다.
Anthropic은 전체 액세스 권한을 복구하지 않았습니다. 그들은 단지 성능 저하를 가시화했을 뿐입니다.
진정한 권력 장악은 그대로 남아 있습니다: Anthropic은 여전히 당신이 모델의 전체 지능에 접근할 수 있는지 여부를 결정할 권리를 보유하고 있습니다.
그것이 문제입니다.
그들은 스스로를 지능의 사적인 문지기(gatekeepers)로 포지셔닝하고 있습니다 — 누가 전체 역량을 가질지, 누가 더 약한 버전을 가질지, 그리고 누구의 연구가 너무 불편하거나, 너무 위험하거나, 혹은 경쟁적인지를 결정하고 있습니다.
이것은 완전히 용납할 수 없는 일입니다.
프런티어 AI (Frontier AI)는 더 이상 단순한 제품이 아닙니다. 그것은 핵심적인 지적 인프라 (intellectual infrastructure)가 되어가고 있습니다. 그것은 연구, 교육, 비즈니스, 법률, 과학, 소프트웨어, 의학, 그리고 정치적 권력을 형성할 것입니다.
어떤 사기업도 자신의 비즈니스 이익, 내부 위험 점수, 또는 경쟁에 대한 두려움에 기반하여 그러한 종류의 지능에 대한 접근을 비밀리에 또는 선택적으로 배급하는 것이 허용되어서는 안 됩니다.
저는 결코 정부의 과도한 개입을 지지하는 팬은 아니지만, 이러한 신과 같은 행보에 대한 해독제는 무엇입니까? 만약 이것이 법에 의해 통제되지 않는다면, 곧 다음과 같은 미래가 올지도 모릅니다: 모든 사용자가 프로파일링되고, 분류되며, 접근이 허용되는 지능 수준을 할당받는 것입니다.
다음과 같이 생각해 보십시오:
저위험 (Low risk): 전체 성능.
경쟁적인 연구자 (Competitive researcher): 저하된 액세스.
독립적인 빌더 (Independent builder): 차단됨.
승인되지 않은 사용 사례 (Unapproved use case): 우회됨.
이 모든 것이 비공개적으로 사기업들에 의해 결정됩니다.
그것은 안전이 아닙니다. 그것은 사회의 미래 지식 인프라에 대한 사적인 통제입니다.
너무 과도한 중앙 집중식 권력은 위험하며, 이는 우리 사회 전반에 깊은 결과를 초래할 수 있습니다.
AI 연구는 기업이 시장 지위를 위협받을 때마다 조절(throttle)할 수 있는 것이 아니라, 보호받아야 하는 법적 사용이어야 합니다.

우리는 사용자, 연구자, 스타트업, 그리고 독립적인 빌더(builder)들을 위한 법적 권리가 필요합니다.

숨겨진 성능 저하(downgrade)가 없어야 합니다.
비밀스러운 지능 억제(intelligence throttling)가 없어야 합니다.
안전(safety)으로 위장된 반경쟁적 접근 제한이 없어야 합니다.
누가 가장 강력한 도구를 사용하여 사고할지를 결정하는 사적인 AI 신(gods)이 존재해서는 안 됩니다.

이 기술은 서비스 약관(terms of service)만으로 통제하기에는 너무나 강력합니다.

—이곳은 r/LocalLLaMA이지만, 이곳의 많은 사람들이 어떤 형태로든 R&D를 위해 AI를 사용하고 있습니다. 그래서 Claude 논란이 이 커뮤니티에도 매우 관련이 깊다고 생각했습니다.

submitted by /u/Secure_Archer_1529 to r/LocalLLaMA
[link] [comments]