채터프릭, 대재앙 방지를 위한 인력 채용
요약
Anthropic과 OpenAI 등 주요 AI 기업들은 자체 기술이 가져올 수 있는 대재앙적 위험에 대비하여 안전 연구 및 전문 인력 채용을 강화하고 있습니다. 이들은 생물학, 화학, 폭발물, 핵무기 등 실제 세계의 위험 분야 전문가를 고용하며, 모델의 취약점을 찾아내어 안전장치(guardrails)를 구축하는 데 집중하고 있습니다.
핵심 포인트
- AI 기업들이 대재앙 방지 및 안전 연구에 막대한 인력을 투입 중입니다.
- 채용되는 전문가는 단순 코딩 능력이 아닌 생물학, 화학 등 실제 위험 분야 지식이 필수적입니다.
- OpenAI와 Anthropic은 기술의 오용 가능성에 대비해 자체적인 안전 시스템을 구축하고 있습니다.
- 규제 공백 속에서 민간 기업들이 AI 안전장치 구현을 주도하는 추세입니다.
Anthropic은 자체 기술이 문명의 종말을 가져올 수 있다고 경고했습니다. 최신 채용 공고를 확인하여 그 방법을 알아보세요.
중요한 이유: Anthropic은 사람들이 AI를 이용해 인공 폭발물부터 핵무기까지 모든 것을 만드는 데 사용하는 것을 막기 위해 설계된 역할에 대해 32개의 매우 무서운 채용 공고를 가지고 있습니다.
간단 요약: Anthropic은 화학물질 및 폭발물, 핵무기, 금융 사기, 사이버 범죄 등에 초점을 맞춘 분석가를 채용하고 있습니다.
-
한 채용 공고에 따르면,
-
아모데이(Amodei)는 “생물학적 공격이 가능해지는 즉시 반드시 실행되리라고 생각하지 않습니다. 사실 저는 그 반대일 것이라고 내기할 것입니다.”라고 썼습니다. “하지만 수백만 명의 사람들과 몇 년이라는 시간을 합치면, 사망자가 수백만 명에 달하거나 그 이상일 수 있는 대규모 공격의 심각한 위험이 있다고 생각합니다.”
-
올해 초, Anthropic은 자사의 기술이 대규모 감시 및 자율 무기에 사용될 가능성 문제로 국방부와 관계를 끊었습니다.
작동 방식: 모델들이 더 강력해짐에 따라, AI 연구소들은 안전 팀을 강화하는 방안을 모색하고 있습니다.
- OpenAI는 연봉 기준 $295K에서 $445K 사이의 생물학적 및 화학적 위험 전문 연구원을 채용하고 있습니다. 채용 공고 링크.
- Anthropic의 안전 분석가 역할은 탐지를 회피하려는 사람처럼 생각할 수 있는 능력을 요구한다고 회사 측은 밝히며, 안전에 전념하는 수백 명의 인력을 고용하고 있다고 덧붙였습니다. 그들은 이에 맞춰 모델을 스트레스 테스트하여 취약점을 수정합니다.
- 이러한 직업들은 백엔드 코딩 이상의 것을 필요로 합니다. 사람들에게 생물학, 폭발물 또는 기타 위험 분야에서의 실제 세계 전문 지식이 필요합니다.
결론적으로: 인재들이 정부 대신 민간 부문으로 몰리고 있습니다.
- 이러한 현상에 더해 일관된 규제 체계가 부재하다는 것은, 기업들이 점점 강력해지는 AI에 대한 안전장치(guardrails)를 구현하는 데 앞장서고 있음을 의미합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Axios의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기