우리의 원칙

AI 는 사회의 많은 측면을 크게 개선할 잠재력을 가지고 있습니다.

이 기술은 이전의 다른 기술들과 마찬가지로, 사람들에게 더 큰 능력과 주체성을 부여할 것입니다. 사람들이 AI 로 할 수 있는 일은 증기 엔진이나 전기보다 훨씬 더 큽니다.

우리는 현재 상상하기 어려운 수준에서 광범위한 번영을 이루어내는 세계와 개인적인 잠재력, 주체성, 그리고 충족감이 크게 증가하는 세상을 구상하고 있습니다. SF 에서만 꿈꾸었던 많은 것들이 현실이 될 수 있으며, 대부분의 사람들은 오늘날의 사람들보다 더 의미 있는 삶을 살 수 있을 것입니다.

하지만 이러한 결과는 보장되지 않습니다. 미래의 권력은 소수의 기업에 의해 초지능을 사용하고 통제함으로써 유지될 수도 있고, 분산된 방식으로 사람들에 의해 유지될 수도 있습니다. 우리는 후자가 훨씬 더 좋다고 믿으며, 우리의 목표는 진정한 일반 AI 를 가능한 많은 사람들에게 손에 쥐어주는 것입니다. 현재의 상황과 마찬가지로, 미래는 모두 나쁘거나 모두 좋은 것이 아닙니다. 하지만 우리가 지금 내리는 결정은 선을 극대화하는 데 도움을 줄 수 있습니다.

우리의 미션은 AGI 가 인류 전체의 이익을 보장하는 것입니다. 우리의 작업을 안내하는 원칙들은 다음과 같습니다.

1. 민주화. 우리는 이 기술이 소수에게 권력을 집중할 잠재력에 저항할 것입니다.

이는 AI 에 대한 모든 접근을 제공하는 것뿐만 아니라, AI 에 대한 주요 결정들이 민주적 과정과 평등 원칙을 통해 이루어져야 하며, AI 실험실로만 이루어지지 않아야 함을 의미합니다.

2. 강화 (Empowerment). 우리는 AI 가 모든 사람이 목표를 달성하고 더 많이 배우고, 더 행복하고 충족감을 느끼며, 꿈을 추구할 수 있도록 할 수 있으며, 이것이 사회 전체에 이익이 될 것이라고 믿습니다.

이를 달성하기 위해서는 사람들이 앞으로 있는 거대한 잠재력을 탐험할 수 있게 해야 하며, 이를 가능하게 하는 제품을 구축해야 합니다. 사용자는 우리의 서비스를 통해 점점 더 가치 있는 작업을 신뢰할 수 있게 수행할 수 있어야 합니다.

세계는 다양하며 사람들은 다른 필요가 있습니다. 우리는 사용자에게 필요한 자율성을 부여하고 합리적으로 가능한 한 많은 것을 허용하고 싶습니다.

우리는 사용자가 서비스를 사용하는 방식에 대해 매우 넓은 자유도를 부여하고, AI 가 전체적으로 크게 이익이 될 것이라고 강하게 믿지만, 해를 최소화하는 방식으로 구축하고 배포할 책임이 있습니다. 이는 물론 파멸적인 피해를 방지하는 것뿐만 아니라, 지역적 피해를 최소화하고 잠재적인 부식적인 사회적 효과를 피하는 것을 포함합니다. 이는 불확실성 앞에 경계 쪽으로 기울여야 하며, 더 많은 증거가 있을 때 제약을 완화해야 함을 의미합니다.

3. 보편적 번영. 우리는 모든 사람이 훌륭한 삶을 살 수 있는 미래를 원합니다.

모든 사람에게 사용이 쉬운 AI 시스템을 많은 컴퓨팅 파워로 손에 쥐어준다면, 사람들은 새로운 방식으로 가치를 생성하고 특히 새로운 과학의 발견과 함께 모든 사람의 삶의 질을 크게 개선할 것이라고 믿습니다.

번영이 완전히 실현되고 널리 공유되려면, 우리는 1) 우리 정부가 우리가 앞으로 있는 가치 창출에 모두 참여할 수 있도록 새로운 경제 모델을 고려해야 함을 의미하며, 2) 우리는 거대한 양의 AI 인프라를 구축하고 AI 인프라 비용을 크게 낮추기 위한 새로운 기술을 개발해야 합니다.

우리가 하는 많은 것들이—수입이 상대적으로 작음에도 불구하고 거대한 컴퓨팅 자원을 구매하는 것, 비용을 낮추고 기술을 사용하기 쉽게 하기 위해 수직 통합하는 것, 전 세계에 데이터센터를 구축하기 위해 노력하는 것, 그리고 그 밖의 것들—은 모두 보편적 번영 (universal prosperity) 의 미래에 대한 우리의 근본적인 믿음에 의해 주도됩니다.

4. 탄력성 (Resilience). AI 는 새로운 위험을 도입할 것이며, 우리는 다른 기업, 생태계, 정부, 그리고 사회와 협력하여 이를 해결할 것입니다. 우리는 이 작업에 Foundation 의 자원을 크게 활용할 것입니다.

단 하나의 AI 연구소만 좋은 미래를 보장할 수는 없습니다. 예를 들어, 새로운 병원체를 생성하는 데 더 쉽게 만들 수 있는 매우 능숙한 모델이 있을 수 있으며, 이에 대해 병원체 무관 (pathogen-agnostic) 대응책을 통해 사회 전체적인 접근 방식을 통해 방어해야 합니다. 또 다른 예를 들면, 모델의 사이버 보안 기능이 증가함에 따라 우리는 이러한 모델을 사용하여 오픈 소스 소프트웨어와 핵심 인프라를 보호하는 데 빠르게 활용해야 하며, 모든 사람이 더 안전한 소프트웨어를 만들 수 있도록 모델을 훈련시켜야 합니다.

이는 우리가 오랫동안 유지해 온 점진적 배포 (iterative deployment) 전략의 확장입니다. 우리는 사회가 각 단계의 AI 능력을 마주하고 이해하며 통합하고 함께 최선의 방향을 찾아내야 한다고 믿습니다. 이는 진공 상태에서 이루어질 수 없습니다. 사회와 기술은 공진화하며, 이는 시간이 필요합니다.

우리는 이것이 우리의 유일한 안전 전략이 아니라고 명시합니다. 우리는 또한 안전한 시스템을 만들고 기술적 정렬 (technical alignment) 에 대한 훌륭한 작업을 계속해야 합니다.

우리는 정부, 국제 기관, 그리고 다른 AGI 노력이 우리 작업이 더 나아가기 전에 심각한 정렬, 안전, 또는 사회적 문제를 충분히 해결했는지 보장하기 위해 협력해야 할 기간이 있을 것으로 예상합니다.

5. 적응성 (Adaptability). 우리는 매우 예측 불가능한 미래의 도전에 대응하는 유일한 방법은 우리가 더 많이 배우면서 우리의 입장을 업데이트할 준비가 되어 있다는 점에 계속 믿습니다. 또한 OpenAI 는 몇 년 전보다 훨씬 큰 세력으로 세계에 존재함을 인정하며, 우리의 운영 원칙이 어떻게, 언제, 왜 변경되는지 투명하게 알릴 것입니다. 구체적인 예를 들면, 우리는 보편적 번영이 여전히 매우 중요하다고 확신하지만, 미래에는 일부 권한 부여를 더 많은 탄력성 (resilience) 과 교환해야 하는 기간을 상상할 수 있습니다.

AI 개발은 많은 놀라움을 가져왔으며, 더 많은 놀라움이 아직 남아있습니다. 기술이 발전함에 따라 그 나타나는 행동은 점점 더 예측하기 어려워집니다. 우리는 이러한 불확실성을 __embrace__하여 능력을 신중하게 발전시키고, 시스템을 점진적으로 배포하며, 세계와의 상호작용에서 배우는 방식으로 대응합니다.

GPT‑2 의 가중치를 공개하는 것에 대해 우리가 걱정했던 것은 그리 오래 전이 아니었습니다. 우리는 사회에 미칠 영향이 무엇인지 확신하지 못했기 때문입니다. 물론 후대의 관점에서 볼 때 이는 잘못된 우려였지만, 이는 점진적 배포 전략을 발견하게 만들었으며, 우리가 가장 중요한 것 중 하나라고 판단했습니다.

__
기술이 계속 개선됨에 따라 우리는 매우 영향력 있는 단계로 진입하고 있습니다. 모든 결정에 대해 우리를 비판하는 것은 매우 공정합니다. 우리가 하는 일의 무게를 고려할 때 우리는 엄청난 수준의 감시를 받을 자격이 있습니다. 우리는 모든 것을 올바르게 하지 못할 것입니다. 하지만 우리는 빠르게 배우고 방향을 수정할 것입니다.

우리는 미래를 과거보다 더 좋게 만드는 데 우리 몫을 수행하기 위해 약속했습니다. 우리는 이렇게 중요한 일을 맡아 보기에 운명적이라고 느낍니다.