OpenAI의 Altman: 모델에 종교적 힘을 부여하는 것은 '안전 문제'

[OpenAI] CEO Sam Altman은 토요일 Anthropic과 AI의 영혼에 대한 그들의 작업에 대해 간접적으로 비판하며, 모델에 일종의 종교적 힘을 귀속시키는 생각에 '매우 불편하다'고 말했습니다.

이것이 중요한 이유: 이는 Altman과 그의 전 동료 Dario Amodei 사이에 또 다른 의견 차이를 보여주는 지점입니다. Amodei의 회사는 여러 신앙의 학자들을 동원하여 도덕적이고 의식적인 모델을 주장해 왔다고 보도되었습니다.

---

• 하지만 일부 AI 분야의 주요 인사들은 모델에 [의식(consciousness)]을 주입하려는 Anthropic의 노력에 공개적으로 반대하기 시작했습니다.

그들이 말하는 것: Altman은 X에 올린 게시물에서

숨겨진 의미: 교황의 입장은 근본적인 질문에 다시 초점을 맞추게 했습니다. 모델은 영혼과 감정을 가지고 있는가?**

• The Times는 지난 5월 바티칸 행사를 앞두고 Olah가 교황의 자문위원들에게 의식적(conscious) 모델의 가능성을 더 심각하게 받아들여야 한다고 설득하려 했다고 보도했습니다.
• 지금까지 다른 주요 과학자들은 이 생각에 반대하는 입장을 보이는 것 같습니다.
• Google DeepMind 수석 연구원 Jon Barron은 X에 다음과 같이 게시했습니다.