Chamath가 Dario Amodei의 에세이를 Claude에 입력하여 심리 프로필을 요청한 결과: 모든 프런티어 AI 투자자가 반드시

Chamath는 Dario Amodei의 에세이를 Claude에 입력하고 심리 프로필을 요청했습니다. 그 결과로 나온 내용은 모든 프런티어 AI (frontier AI) 투자자들이 반드시 읽어야 할 내용입니다.

모델은 하나의 패턴을 식별했습니다.

Dario는 다른 연구소들을 불신합니다. 그는 권위주의 국가들을 불신합니다. 그는 이익을 공정하게 분배하는 시장을 불신합니다. 그는 기관들이 충분히 빠르게 움직이는 것을 불신합니다. 그리고 Mythos 사건 이후, 그는 정부가 권력을 투명하게 행사하는 것을 불신합니다. 이는 신뢰할 수 없는 행위자들의 매우 긴 목록입니다.

신뢰할 수 있는 이들의 목록은 눈에 띄게 짧습니다. 그리고 그 목록은 그가 설계하는 데 도움을 준 규칙 아래에서, 그와 같은 방식으로 추론하는 사람들에게로 수렴하려는 의심스러운 경향을 보입니다.

Claude는 이를 정확하게 명명했습니다. 자기애적 망상 (megalomania)이 아닙니다. 인식론적 예외주의 (Epistemic exceptionalism)입니다.

의견 차이는 항상 오류의 결과라는, 조용하고 방어 가능한 확신입니다. 당신의 안전 프레임워크 (safety framework)가 누군가에게 열쇠를 쥐어줄 것을 요구하고, 당신의 분석이 다른 모든 열쇠 소유자는 신뢰할 수 없다는 결론을 계속 내린다면, 당신은 무엇을 입력하든 동일한 답을 출력하는 기계를 만든 것입니다.

그 단서는 단 하나의 단어였습니다.

Mythos 상황이 무너졌을 때, Anthropic은 이를 오해 (misunderstanding)라고 불렀습니다. 압박 속에서의 그 단어 선택은, 만약 모든 사람이 단순히 올바르게 이해하기만 한다면 그와 의견을 같이할 것이라고 가정합니다.

Sacks는 팟캐스트에서 이를 간단하게 표현했습니다. 그들은 AI가 매우 위험하며, 오직 자신들만이 그것을 통제할 만큼 도덕적이라고 믿습니다.

그것은 안전 프레임워크가 아닙니다.

그것은 철학이 첨부된 독점 (monopoly)입니다.

@theallinpod에서 전체 팟캐스트를 시청하세요.