Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Anthropic이 AI 개발 속도 조절 제안에 따라 Accenture를 최초의 임베디드 평가자로 선정했습니다. Anthropic은 Accenture 직원들을 내부적으로 배치하여 모델 안전성 테스트, 레드팀 평가 등을 진행하며 인간 가치 부합 여부를 판단할 계획입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 CNBC Technology의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Anthropic은 금요일에 Accenture를 임베디드 평가자(embedded evaluator)로 선정했다고 발표했습니다. 이는 CEO Dario Amodei가 인공지능 개발 속도를 늦추자는 제안을 이행하기 위한 회사의 첫 구체적인 조치입니다.
보도 자료에 따르면, Anthropic과 Accenture는 향후 5년 동안
Anthropic은 금요일에 Faculty(Accenture의 전문 AI 사업부) 직원들을 회사 내부에 임베드하여 안전장치(safeguards)를 테스트하고, 레드팀 모델을 평가하며, 모델이 인간 가치에 부합하게 행동하는지 여부를 판단하기 위해 초기 합의했다고 밝혔다. 이 파트너십은 독점적이지 않으며, Anthropic은 연구 비영리 단체인 METR 및 기타 제3자와도 논의 중이라고 말했다.
회사는 모델 안전성에 대한 책임이 여전히 자신들에게 있음을 강조하며, 임베디드 평가자들과 협력하는 것이 그들의 책임을 줄이지는 않을 것이라고 밝혔다.
Anthropic은 “우리는 사람들과 다른 AI 개발자들이 우리의 과정을 볼 수 있도록 이러한 초기 노력을 공유하고 있다”라며, “우리의 접근 방식은 분야가 성숙함에 따라 진화할 것으로 예상하며, 작업이 시작되고 추가 평가자들을 영입함에 따라 더 많은 것을 공유할 것이다”라고 말했다.
Writing the AI safety playbook