직시합시다: 사후 API 가드레일(guardrails)은 프런티어 모델(frontier models)을 위한 올바른 안전 도구가 아닙니다.

그것들은 위험한 능력들을 사라지게 만들지 못합니다. 그저 쉽게 탈옥(jailbroken)될 수 있는 취약한 인터페이스 뒤로 그것들을 숨길 뿐입니다.

더 나은 안전 의제:

• 강력한 평가(evals), 정당성, 그리고 격리(containment) 없이 매우 높은 위험을 가진 능력들을 위해 모델을 학습시키지 마십시오.

• @IreneSolaiman이 개척한 방식처럼, 신뢰할 수 있는 테스터부터 더 넓은 접근, 그리고 투명성과 책임성을 위한 공개 출시로 이어지는 단계적 출시(staged release)를 사용하십시오.

• 오픈 소스 AI를 대폭 지원하여, 소수의 폐쇄형 연구소(closed labs)와 정부가 다른 모든 이들보다 압도적인 능력과 권력을 갖게 될 정도로 플레이어 간의 격차가 커지지 않도록 하십시오.

• 모든 이에게 블랙박스(black-box) API를 신뢰하라고 요구하는 대신, 독립적인 평가(independent evaluation)를 가능하게 하십시오.

• 법 집행 기관, 법원, 규제 기관, 감사인, 언론인, 그리고 시민 사회가 AI의 불법적인 사용을 탐지, 조사 및 책임을 물을 수 있도록 강력한 AI 도구를 제공하십시오.

안전이란 투명성, 단계적 배포, 분산된 권력, 그리고 민주적 제도들이 실제로 법을 집행할 수 있도록 보장하는 것을 의미합니다.