샘 올트만: 전 세계가 더 나은 사이버 방어 및 생물 보안을 구축하기 전까지는 OpenAI의 최고 모델을 책임감 있게 오픈 소스화할 수 없다

OpenAI의 공동 창립자이자 CEO인 Sam Altman이 최근 Stanford Graduate School of Business의 'View from the Top' 시리즈에서 심층적인 대화를 나누었으며, 이 자리에서는 AI의 개발 궤적, 안전 문제, 조직 변혁, 그리고 개인적 성장에 대해 다루었습니다. Altman은 OpenAI가 원래 순수 연구소로 자체를 구상했으며, 팀원들은 초지능(superintelligence)이 개발되면 상업화와 제품화는 어떻게든 해결될 것이라고 순진하게 믿었다고 인정했습니다. 그러나 기술의 실제 발전 경로는 기대와 크게 벗어났고, 이는 회사가 2020년경에 방향을 전환하도록 강요했으며, ChatGPT 출시 이후의 폭발적인 성장은 OpenAI를 거의 하룻밤 사이에 거대한 회사로 만들었습니다.

오픈 가중치 모델(open-weight models)과 안전성 사이의 긴장감에 대해 언급하며, Altman은 오픈 가중치 모델이 상당한 사회적 가치를 지니고 있지만, OpenAI가 현재 보유한 가장 진보된 내부 모델은 글로벌 사이버 방어 시스템과 생물 보안 장치가 충분히 강화되기 전까지는 '책임감 있게 오픈 소스화될 수 없다'고 밝혔습니다. 2020년에 자신이 무엇을 잘못했는지에 대한 질문에 응답하며, Altman은 AI 정렬(AI alignment) 문제의 어려움을 과소평가했다고 인정했습니다. 현재 모델들이 예상보다 나은 수준의 정렬성을 보여주고 있지만, 그는 이러한 추세가 단순히 계속될 것이라고 가정하는 것에 경고했습니다.

그는 "지난 6개월간의 급속한 발전이 나의 확신을 시험했다"면서, 수학적 추론과 같은 좁은 영역에서는 이미 초지능을 보유하고 있으며, 이는 자신이 예상했던 것보다 더 빠르게 일어났다고 언급했습니다. 그는 현재 글로벌 거버넌스 프레임워크(global governance frameworks)에 대한 조정 없이는 현 개발 속도를 유지하는 것이 지속 가능하지 않을 것이라고 경고하며, AI 발전의 속도 조절에 대해 업계 전반의 진지한 논의를 촉구했습니다.

출처:

- 오픈 가중치 모델은 사회가 어느 정도 상당히 높은 수준의 역량을 갖추는 데 매우 중요합니다.

[42:25] - 모든 오픈 소스 모델을 금지하는 것은 사회의 혁신과 자유에 엄청난 비용이 될 것이며, 우리는 그렇게 해서는 안 됩니다. [38:23] - 누군가 하지 않았으면 좋았을 만한 것들이 있을 겁니다 [38:51] - 그 위에는 모델들이 충분한 피해를 줄 수 있어서, 사람들이 원하는 대로 사용할 자유를 주지 않을 것입니다. [39:22] - 이것이 우리가 컴퓨터에서 신경망(neural networks)을 실행할 수 없다는 의미는 아니라고 생각합니다. [40:20] - 저희가 현재 최고의 내부 모델을 책임감 있게 오픈 소스화할 수 있을지는 모르겠습니다. 가까운 시일 내에는요. [43:26] submitted by /u/External_Mood4719 [link] [comments]