포렌식 요약 (Forensic Summary)

Anthropic과 OpenAI는 승인된 공격적 보안 연구자(offensive security researchers)에게 사이버 보안 가드레일(guardrails)이 완화된 AI 모델에 대한 접근 권한을 부여하는 구조화된 검증 프로그램인 Anthropic의 사이버 검증 프로그램(Cyber Verification Program)과 OpenAI의 사이버를 위한 신뢰할 수 있는 액세스(Trusted Access for Cyber)를 도입했습니다. 이러한 프로그램은 정당한 연구자와 악의적인 행위자 사이의 경계가 민간 기업의 정책 결정에 의해 결정되는 2단계 접근 모델(two-tier access model)을 생성하며, 새로운 사회 공학(social-engineering) 및 액세스 남용 벡터를 도입합니다. 방어자들은 이제 자격 증명 남용(credential abuse), 내부자 침해(insider compromise) 또는 검증 프로세스 조작을 통해 가드레일이 완화된 모델 접근 권한을 획득할 가능성을 고려해야 합니다.

Grid the Grey에서 전체 기술 심층 분석을 읽어보세요: https://gridthegrey.com/posts/anthropic-and-openai-open-vetted-cyber-programs-for-offensive-researchers/