전체 공개 (Full Disclosure) 저는 포함된 모든 소스 링크를 검증하지 않았으므로, 이에 따라 주의하여 진행하시기 바랍니다. 모델: ChatGPT 5.6 Sol 노력: (중간) Harness: Codex ---

솔직한 판결은 다음과 같습니다: 모델 제작자의 권력을 더 가시화하고 다툴 수 있게 만드는 데 있어 몇 가지 실질적인 발전이 있었지만, 모델 제작자들이 자신들의 시스템에 의해 영향을 받는 사람들에게 의미 있는 통치권이나 경제적 권력을 이전하고 있다는 증거는 거의 없습니다. 유용한 단계(ladder)는 다음과 같습니다:

수사학 (Rhetoric): “AI는 모두에게 이익이 되어야 한다.”
가독성 (Legibility): 시스템 카드 (system cards), 정책, 평가 및 한계점을 공개함.
외부 조사 (External scrutiny): 독립적인 테스트 및 사고 보고를 허용함.
책임성 (Accountability): 집행 가능한 의무, 처벌, 내부 고발자 보호 및 항소권을 부과함.
권력 공유 (Power sharing): 영향을 받는 사람들이 구속력 있는 투표권, 거부권, 소유권, 보상 또는 배포에 대한 통제권을 가짐.

업계는 2단계와 3단계 부근에서 가시적인 진전을 이루었습니다. 규제는 4단계를 만들기 시작했습니다. 5단계는 대체로 부재한 상태입니다.

실질적으로 실재하는 것으로 보이는 것들:

외부 평가가 존재합니다. OpenAI, Anthropic, 그리고 Google DeepMind는 안전 테스트를 위해 영국 AI 보안 연구소 (UK AI Security Institute)에 고급 모델을 제공했습니다. 이는 대중이 기업의 주장을 그대로 받아들여야 하는 대신, 정부 기관에 어느 정도 독립적인 측정 능력을 부여합니다. 하지만 접근 방식은 여전히 상당히 협력적인 수준에 머물러 있으며, 연구소는 모델이 안전하다고 인증하는 것은 아니라고 명시적으로 밝히고 있습니다. UK AI Security Institute

일부 공개 사항은 법적으로 강제 가능해지고 있습니다. 캘리포니아의 SB 53은 대규모 프런티어 개발자(frontier developers)들이 안전 프레임워크를 공개하도록 요구하며, 중대 사고 보고 및 내부 고발자 보호를 확립하고, 미준수 시 민사 처벌을 허용합니다. 이는 규칙이 기업의 재량권 밖에서 증거와 결과를 만들어내기 때문에 진정한 권력 회계 (power accounting)입니다. California governor’s SB 53 summary

유럽의 감독이 중대한 영향을 미치기 시작했습니다. Anthropic, Google, OpenAI, Microsoft, Mistral 등이 EU의 범용 AI 실무 강령 (General-Purpose AI Code of Practice)에 서명했습니다.

이 강령은 이행 메커니즘으로서 자발적이지만, 근본적인 AI 법(AI Act)의 의무를 충족하는 데 도움이 됩니다. 벌금을 포함한 유럽 위원회(European Commission)의 집행 권한은 2026년 8월부터 적용되기 시작합니다. Anthropic은 실제 기업 권한을 가진 기구를 만들었습니다. Anthropic의 장기적 이익 신탁(Long-Term Benefit Trust, LTBT)은 Anthropic 이사회의 구성원을 선출할 수 있습니다. 이는 단순한 자문 윤리 패널 그 이상입니다. 즉, 비표준 이해관계자를 기업 거버넌스(corporate governance) 체계 내부에 배치하는 것입니다. 이 신탁은 2025년에 이사를 임명함으로써 해당 메커니즘이 작동하고 있음을 입증했습니다. [IMG:1] Anthropic LTBT, 이사회 임명 OpenAI의 비영리 단체는 영리 목적의 공익 기업(public-benefit corporation)에 대한 공식적인 통제권을 유지합니다. 이는 일반적인 기업이 할 수 없는 방식으로, 전통적인 주주 우선주의(shareholder primacy)보다 미션을 우선시할 수 있게 합니다. 하지만 이는 해석 권한을 민주적으로 분산시키기보다는 재단(Foundation)에 집중시킵니다. [IMG:2] OpenAI 구조 이러한 것들은 실질적인 제도적 변화입니다. 이를 아무것도 아닌 것으로 치부해서는 안 됩니다. 대부분 실험적이거나 상징적인 수준에 머물러 있긴 하지만, OpenAI는 10개의 "민주적 입력(democratic inputs)" 실험에 자금을 지원했고, Anthropic은 약 1,000명의 미국인으로부터 수집된 원칙을 사용하여 실험적 모델을 학습시켰습니다. 이는 대중의 선호도가 기술적으로 모델의 행동에 영향을 미칠 수 있다는 유용한 시연입니다. [IMG:3] OpenAI 민주적 입력 프로그램, Anthropic 집단적 헌법적 AI (Collective Constitutional AI) 하지만 OpenAI는 초기 결과가 구속력이 없다고 명시적으로 밝혔습니다. 대중은 조언을 하도록 초대받은 것이지, 관할권(jurisdiction)을 부여받은 것이 아니었습니다. Anthropic과 그 파트너는 여전히 질문, 중재 규칙, 번역 방법 및 구현 범위를 직접 결정했습니다. 참여는 궁극적인 권한이 회사에 남아 있는 틀(container) 안에서 이루어졌습니다. 마찬가지로, Anthropic의 신탁은 구조적으로 의미가 있지만 광범위하게 민주적이지는 않습니다. 신탁 위원들은 노동자, 사용자, 학습 데이터에 포함된 작품을 제공한 예술가, 대체된 공동체 또는 일반 대중에 의해 선출되지 않습니다. 이는 대중적인 권력 공유보다는 엘리트 수탁 관리(fiduciary stewardship)에 더 가깝습니다.

가장 강력한 반증: 산업 투명성이 최근 악화되었습니다. Stanford의 2026 AI Index 보고서에 따르면, 평균 파운데이션 모델 투명성 지수(Foundation Model Transparency Index) 점수가 2024년 58점에서 2025년 40점으로 하락했으며, 책임 있는 AI 벤치마크(responsible-AI benchmarks)에 대한 보고는 여전히 드문 실정입니다. [IMG:1] Stanford AI Index 2026 2026 국제 AI 안전 보고서(International AI Safety Report)는 더 많은 개발자들이 이제 프런티어 안전 프레임워크(frontier safety frameworks), 시스템 카드(system cards), 그리고 리스크 관리 공개(risk-management disclosures)를 발표하고 있다고 밝히고 있습니다. 하지만 많은 조치들이 여전히 자발적이며, 관행은 매우 다양하고, 보호 장치의 실질적인 효과는 여전히 불확실합니다. [IMG:2] International AI Safety Report 2026 이러한 조합이 중요합니다: 경제적 권력은 가장 취약한 영역입니다. 측정(measurement)은 늘어나고 있습니다. Anthropic은 연구 보조금과 공개 노동 시장 데이터를 제공하는 경제 미래 프로그램(Economic Futures Program)을 운영하고 있습니다. [IMG:3] Anthropic Economic Futures OpenAI는 직무 전환 프레임워크를 발표했으며, AI의 이익과 권력이 널리 분배되어야 한다고 반복해서 말하고 있습니다. [IMG:4] OpenAI의 명시된 계획 그러나 측정은 재분배가 아닙니다. 저는 주요 모델 제작자들이 다음과 같은 메커니즘에 아직 전념하고 있다는 강력한 증거를 보지 못했습니다: 프런티어 인프라(frontier infrastructure)에 대한 노동자 또는 대중의 소유권; 구속력 있는 수익 또는 생산성 배당금; 창작자와 데이터 주체에 의해 관리되는 보상; 직장 내 AI 배포에 대한 노동자의 거부권; 실직 노동자에 대한 보장된 지원; 필수 서비스에서의 배포에 대한 공적 통제; 여러 관할권에 걸친 설명, 항소 및 인간에 의한 재검토에 대한 개인적 권리; 구속력 있는 기업 권한을 가진 영향권 커뮤니티의 의석. 기업들은 실직 문제를 연구하고, 도구와 교육을 제공하며, 정책을 권고하고, 연구에 자금을 지원하고 있습니다. 그러한 행동들은 유용할 수 있습니다. 하지만 AI가 그들의 일자리를 없애거나, 그들의 데이터가 상업적 시스템에 기여하거나, 자동화된 결정이 그들에게 해를 끼칠 경우, 그것이 개인에게 실질적으로 더 큰 협상력(bargaining power)을 부여하지는 않습니다.

결론적으로, 새로운 안전 회계(safety-accounting) 체제가 등장하고 있다는 증거는 있습니다: 특정 위험을 명시하고, 모델을 테스트하며, 절차를 공개하고, 주요 사고를 보고하며, 일부 내부적 이견을 보호하고, 제한적인 정부의 조사를 허용하는 것들입니다. 반면, 사회적 권력 회계(social power-accounting) 체제에 대한 증거는 훨씬 적습니다: 누가 이득을 독점하는지 식별하고, 누가 손실을 떠안는지 식별하며, 영향을 받는 사람들에게 집행 가능한 권리를 부여하고, 거부 및 항소권을 제공하며, 결정권과 경제적 소유권을 이전하고, 해악을 끼친 기관에 그 비용을 부담하게 하는 것들 말입니다. 따라서 아무 일도 일어나지 않고 있다고 말하지는 않겠습니다. 특히 법이 결과를 만들어내는 영역에서는 일부 제도적 거점(institutional footholds)이 실재합니다. 하지만 저는 "인류 전체에 이익이 된다"거나 "광범위하게 분산된 권력"이 입증된 결과라고는 받아들이지 않을 것입니다. 현재로서는, 그러한 문구들의 의미를 스스로 계속 결정해 나가는 조직들에 의해 표현되는 열망(aspirations)으로 남아 있습니다. 가장 명확한 테스트는 간단합니다. 가장 중대한 질문들에 대해, 정부가 성공적으로 제약을 가하지 않는 한, 그 답은 여전히 "회사가 결정한다"입니다. submitted by /u/Saberwing91 to r/OpenAI [link] [comments]