joedaroo의 글 인용: AI 역량 급증에 대한 대응 방안

2026년 9월 28일

우리가 '사이버'나 '군집(swarming)' 또는 '메시지 게시판' 등 사건과 관련된 다른 어떤 것에 있어서 모델의 기능이 점프하고 갑자기 나타난 것에 놀랐다고 말하는 것은 과소평가입니다. 보안 태세는 시간이 걸려 개발됩니다. 단순히 작동 중인 시스템을 강화하는 것만으로는 충분하지 않습니다. 그것을 회사 문화에 내재화해야 합니다. 조직 내 실제 사람들 자체가 이에 맞춰 변화하고 진화해야 합니다. 이러한 기능의 점프는 너무 빠르고 갑작스러워서 극도로 어려운 문제를 야기했습니다. [...]

그래서 오늘 저의 희망은 전 세계 모든 사람들이 자신의 조직을 바라보며 다음과 같이 말할 수 있는 것입니다: 저는 AI 역량의 놀라움이나 급격한 도약에 어떻게 대처해야 할까요? 제 사람들, 제 시스템, 또는 제 프로세스는 예상치 못한 상황에 탄력적(resilient)인가요? 저희 팀들은 무언가 잘못되었을 때 무엇을 해야 하는지 알고 있나요? 올바른 사고 대응 계획(incident response)이 있나요? 적절한 커뮤니케이션과 메시징은요? 기능이 점프할 때 대비하여 준비된 인력이 있나요?

— @joedaroo, OpenAI의 Agent Security 담당자 (The Information의 Rocket Drew에 의해 신원 확인)