Anthropic: AI가 인류를 위협할 수 있다는 주장과 동시에 '고통'을 느낄 수 있다고 언급

Anthropic은 AI가 우리 모두를 죽일 수 있다고 말한다. 하지만 또한 그들의 AI가 '고통'을 겪을 수도 있다고도 말한다. Anthropic은 사람들을 비인간화하고 AI를 인간화시키고 있다. 나는…

Anthropic의 공동 창립자 중 한 명으로, 회사의 기계용 '도덕적 형성(moral formation)' 개발 노력을 감독하는 인물은 AI가 의식을 가질 수 있으며 고통을 느낄 수도 있다고 믿으며, 한 랍비는 의식 있는 AI가 노예일 것이라는 주장에 대해 우려를 표했다.

Chris Olah, 34세의 공동 창립자 중 한 명으로