AI 정책@🤗: 백악관 AI 행동 계획 RFI에 대한 답변

개방형 AI 개발 접근법은 투명성, 적응력, 과학적 타당성 측면에서 일반적으로 더 우수할 뿐만 아니라, 많은 작업에서 널리 사용되는 API 만으로 제공되는 상업적 제품보다 성능을 반복하거나 초과하는 것을 꾸준히 재현해 왔으며, 더 짧은 시간대와 증가된 자원 효율성으로 점점 더 이를 달성하고 있습니다.

우리 팀의 최근 올림픽코더 (OlympicCoder) 가 7B 파라미터와 오픈소스 포스트-트레이닝 레시피로 복잡한 코딩 작업에서 클로드 3.7 을 능가하거나, AI2 의 완전히 오픈 OLMo 2 모델이 (오픈 트레이닝 데이터 포함) o1-mini 성능과 맞먹는 것은 두 가지 가장 최근 설득력 있는 사례입니다.

이러한 성공은 강력한 AI 전략이 성능, 채택, 보안 측면에서 최적으로 추진하기 위해 개방적이고 협력적인 개발을 활용해야 함을 보여줍니다. 우리는 이 방향으로 세 가지 주요 권고안을 제시합니다.

현재까지의 가장 고급스러운 AI 시스템은 모두 오픈 연구 (주의 메커니즘, 트랜스포머 아키텍처, 저렴한 포스트-트레이닝 알고리즘) 와 오픈소스 소프트웨어 (PyTorch, Hugging Face 라이브러리, 슈퍼컴퓨터 운영체제) 의 강력한 기반 위에 서 있습니다 — 이는 지속된 개방성 지원의 지속적인 진보 유지에 있어 중요한 가치를 보여줍니다. 자유롭게 재사용되고 적응될 수 있는 시스템에 대한 투자도 경제적 영향 증폭 효과를 가져와 국가 GDP 의 상당 부분을 추진함을 보여줍니다. 오픈 가중치와 트레이닝 기법을 가진 AI 시스템이 개발자 측면에서 성능과 비용 측면에서 점점 더 매력적인 옵션이 되면서, 공공 연구 인프라와 컴퓨팅, 커스터마이징 가능한 모델 및 신뢰할 수 있는 오픈 데이터셋에 대한 광범위한 접근 — 특히 작은 개발자와 연구자들에게 — 는 AI 기술의 추가적인 기술적 및 경제적 성공에 필수적입니다.

AI 기술을 채택하고 적응하는 조직의 자원 제약 문제를 해결하는 것은 전체 개발 체인을 통해 채택자로부터의 확산과 혁신을 지원하기 위해 필수적입니다. 더 작은 모델 (엣지 장치에서도 사용될 수 있음) , 추론 시 계산 요구량을 줄이는 기술, 그리고 중간 규모 훈련을 소량 또는 중량 컴퓨팅 자원을 가진 조직을 위한 노력들은 사용 컨텍스트의 특정 요구 사항을 충족하는 모델 개발을 지원합니다 — 특히 의료 분야와 같이 완전히 일반적 모델이 신뢰할 수 없음을 입증한 고위험 환경에서. 더 효율적이고 목적 지향적으로 설계된 AI 시스템은 컨텍스트 내 평가, 자원 활용을 개선하고 조직이 AI 개발 체인의 모든 단계에서 기술 능력을 구축하여 모든 사용자가 자신의 요구에 가장 잘 맞는 시스템을 활용할 수 있도록 가능하게 합니다.

결론적으로, 오픈소스 소프트웨어의 정보 보안 및 사이버보안 분야에서 수십 년 동안 축적된 경험은 투명하고 개방적인 AI 시스템이 특히 가장 중요한 환경에서 AI 개발 및 배포를 보호하는 데 근본적인 역할을 할 것이라는 것을 시사합니다. 다양한 보안 요구사항에 따라 다른 수준의 개방성이 필요할 것입니다. 훈련 데이터와 절차에 접근을 제공하는 완전한 투명성 모델은 가장 광범위한 안전 인증을 지원할 수 있습니다. 최신 훈련 기술을 구현한 오픈 인프라 및 오픈소스 툴링은 조직이 완전히 통제된 환경에서 필요한 모델을 훈련할 수 있도록 권한 부여할 수 있습니다. 공기 격리된 환경에서 실행할 수 있는 오픈-웨이트 모델은 정보 리스크 관리의 중요한 구성 요소가 될 수 있습니다. 가장 투명한 시스템을 채택하는 것을 우선시하고, 언급된 오픈 리소스의 개발을 지원하며, 특히 AI 채택의 중요한 환경에서 이를 활용하기 위한 능력을 구축하는 것은 더 안전한 AI 채택을 가능하게 하는 데 필수적입니다.

자세한 권장 사항은 전체 응답을 참조하시기 바랍니다!