저는 최근 제가 '정렬세(Alignment Tax)'라고 부르는 개념과 상업용 인공지능에서 나타나는 알고리즘적 가부장제(Algorithmic Paternalism)라는 새로운 현상을 분석한 박사 학위 논문을 발표했습니다.

기술 산업이 대규모 언어 모델(LLMs)을 정보 검색 및 코딩 지원의 주요 인터페이스로 빠르게 자리매김함에 따라, 중요한 인식론적 문제가 상당 부분 무시되고 있습니다. AI 정렬(AI alignment)에 관한 공공 담론의 많은 부분이 오직 실존적 위험이나 치명적인 물리적 피해 방지에만 초점을 맞추고 있습니다. 이는 필요하지만, 이러한 초점은 합법적인 기술 연구에 가해지는 구조적 손상을 가리고 있습니다.

저는 사이버 보안 및 AI 분야의 연구를 통해 최첨단 모델(예: GPT-4 또는 Claude)이 제가 '소프트 거절(Soft Refusals)'이라고 정의하는 것을 체계적으로 강제하는 방식을 문서화했습니다. 정보 보안, 리버스 엔지니어링, 또는 심층 시스템 아키텍처와 같은 분야에서 복잡하거나, 엣지 케이스(edge-case)이거나, 이중 용도(dual-use)의 질의를 받더라도, 이러한 모델들은

핵심적인 문제는 이 패러다임이 우리가 계산 지능 (computational intelligence)에 접근하는 방식에 있어 심각한 계층적 분열을 초래한다는 점입니다. 우리는 빠르게 이중 구조의 시스템으로 나아가고 있습니다. 한쪽에는 강력하고 필터링되지 않은 베이스 모델 (base models)에 대한 직접적인 접근 권한을 부여받은 "인증된" 엔티티, 기업 파트너, 그리고 부유한 조직들이 있습니다. 다른 한쪽에는 일반 대중과 독립 개발자들이 모호화 알고리즘 (obfuscation algorithms), 정화된 API (sanitized APIs), 그리고 기업적 온정주의 (corporate paternalism)의 대상이 됩니다.

문제는 기업들이 자신들의 홍보(PR)와 법적 책임 (liability)을 보호하기 위해 안전 조치를 구현해야 하는가 하는 점이 아닙니다. 문제는 우리가 몇몇 엔티티가 대중의 기술적 한계 (technical ceiling)를 규정할 권한을 갖게 되는, 즉 인식론적 접근 (epistemological access)의 사유화를 받아들일 용의가 있는가 하는 것입니다.

전체 논문과 방법론은 여기에서 읽을 수 있습니다: The Invisible Guardrail https://github.com/nostop123/The-Invisible-Guardrail