Anthropic은 AI 산업의 '관심 끌기' 유형이다

Anthropic / Dario Amodei는 반복적으로 다음과 같은 경고를 해왔습니다:
• AI가 치명적인 위험을 초래할 수 있다.
• AI가 생물학적, 화학적 또는 핵 관련 위협에 오용될 수 있다.
• 고급 AI 개발은 특정 상황에서 늦춰지거나 중단되어야 할 수 있다.
• AI는 상당한 비중의 사무직(white-collar) 일자리를 없애고 실업률을 극적으로 높일 수 있다.
• 최첨단 모델(Frontier models)은 신중하게 통제되지 않으면 치명적인 피해를 입힐 수 있는 능력을 갖게 될 수 있다.
하지만 동시에:
“우리의 AI는 그 어느 때보다도 역량이 뛰어나다.”
“가장 새로운 모델이 지금 사용 가능하다.”
“기업들은 워크플로우 전반에 걸쳐 AI를 배치해야 한다.”
만약 AI가 그들이 주장하는 것처럼 정말 위험하다면, 왜 더 강력한 모델을 구축하기 위해 경쟁하고 있을까요?
만약 AI가 그렇게 위험하지 않다면, 왜 끊임없이 종말론을 마케팅할까요?
이 모순점이 저를 괴롭힙니다.
모든 주요 AI 기업들은 돈을 벌고 싶어 합니다. 그것은 괜찮습니다. 다만 마치 미래를 판매하는 동시에 그 미래가 곧 끝날 것이라고 모두에게 경고하는 것처럼 행동하지 말아 주세요.