Anthropic은 금요일에 Accenture를 임베디드 평가자(embedded evaluator)로 선정했다고 발표했습니다. 이는 CEO Dario Amodei가 인공지능 개발 속도를 늦추자는 제안을 이행하기 위한 회사의 첫 구체적인 조치입니다.

보도 자료에 따르면, Anthropic과 Accenture는 향후 5년 동안

Anthropic은 금요일에 Faculty(Accenture의 전문 AI 사업부) 직원들을 회사 내부에 임베드하여 안전장치(safeguards)를 테스트하고, 레드팀 모델을 평가하며, 모델이 인간 가치에 부합하게 행동하는지 여부를 판단하기 위해 초기 합의했다고 밝혔다. 이 파트너십은 독점적이지 않으며, Anthropic은 연구 비영리 단체인 METR 및 기타 제3자와도 논의 중이라고 말했다.

회사는 모델 안전성에 대한 책임이 여전히 자신들에게 있음을 강조하며, 임베디드 평가자들과 협력하는 것이 그들의 책임을 줄이지는 않을 것이라고 밝혔다.

Anthropic은 “우리는 사람들과 다른 AI 개발자들이 우리의 과정을 볼 수 있도록 이러한 초기 노력을 공유하고 있다”라며, “우리의 접근 방식은 분야가 성숙함에 따라 진화할 것으로 예상하며, 작업이 시작되고 추가 평가자들을 영입함에 따라 더 많은 것을 공유할 것이다”라고 말했다.

Writing the AI safety playbook