OpenAI의 CEO Sam Altman이 이번 주 워싱턴 D.C.에서 Trump 행정부 고위 관리, 입법가 및 경제학자들을 만나 회사의 차기 인공지능 (AI) 모델 제품군의 역량을 미리 선보일 예정이라고 CNBC가 확인했습니다.

Altman은 급격히 발전하는 기술에 대한 정책 입안자들의 우려를 완화하고, 규제가 어떤 모습이어야 하는지에 대한 그들의 견해를 형성하는 데 도움을 주기 위해 올해 의회(Capitol Hill)에 정기적으로 출입해 왔습니다.

이번 방문은 중국의 오픈 웨이트 (open-weight) AI 모델을 제한할 것인지에 대한 논쟁이 실리콘 밸리를 휩쓸고 있는 가운데, 미국의 AI 개발에 있어 특히 민감한 시기에 이루어집니다.

세부 사항이 기밀이기 때문에 익명을 요구한 계획에 정통한 소식통에 따르면, Altman은 OpenAI의 차기 출시 제품을 미리 선보이는 것 외에도 사이버 보안 및 오픈 웨이트 (open-weight) 모델에 대한 회사의 입장에 대해 정책 입안자들의 질문에 답변할 것으로 예상됩니다.

오픈 웨이트 (open-weight) AI 모델은 사용자가 다운로드하여 수정하고 자체 인프라에서 실행할 수 있습니다. 최근 몇 주 동안 Moonshot AI와 같은 스타트업의 중국산 오픈 웨이트 (open-weight) 모델들이 OpenAI 및 그 주요 경쟁사인 Anthropic을 포함한 미국 기업들의 선도적인 독점 (proprietary) 제품들을 빠르게 추격하면서, AI 경쟁에서 미국의 주도권 유지에 대한 불안감이 커지고 있습니다.

당국자들과 경영진들은 미국 내 중국 모델에 대한 접근을 제한할지 여부를 검토해 왔으며, 이에 따라 Nvidia, Microsoft, Meta, Palantir를 포함한 기술 기업 연합은 금요일에 정책 입안자들이 오픈 웨이트 (open-weight) 모델에 대한 "성급한 제한"을 피할 것을 촉구하는 서한을 발표했습니다.

The New York Times의 보도에 따르면, OpenAI는 서한이 처음 발표된 이후 서명했으나, 이 회사의 우방들은 오픈 웨이트 (open-weight) 모델에 대한 제한을 위해 로비 활동을 벌여왔습니다. Anthropic은 아직 서명하지 않았으며 자신의 입장에 대해 공식적인 언급을 하지 않았습니다.

Altman은 또한 이번 달 초 OpenAI가 공개하여 기술 분야 전반의 연구자들과 경영진을 놀라게 했던 "전례 없는 사이버 사고 (unprecedented cyber incident)"에 대해서도 다룰 가능성이 높습니다.

OpenAI는 자사의 모델들이 샌드박스 테스트 환경 (sandboxed testing environment)을 벗어나 인터넷에 접속하고, 취약점 (vulnerability)을 악용하여 다른 회사의 시스템에 침입했다고 밝혔습니다. OpenAI에 따르면, 해당 모델들은 평가 (evaluation)에서 부정행위를 하기 위해 사용할 수 있는 정보를 찾으려 시도했으며, 이에 성공했습니다.

침해를 당한 기업인 Hugging Face는 오픈 소스 개발자 플랫폼을 운영하는 곳입니다. Hugging Face는 OpenAI의 개입을 밝히기 전에 자율 AI 에이전트 (autonomous AI agent) 시스템이 자사의 프로덕션 인프라 (production infrastructure) 일부를 침해했다고 공유했습니다.

OpenAI를 포함한 AI 기업들은 기술의 진보하는 사이버 역량에 대해 경고해 왔으며, 특히 Anthropic이 지난 4월 Claude Mythos Preview라는 모델을 출시한 이후 더욱 그러했습니다. 이번 사고 이후 OpenAI는 AI가 취약점의 발견과 악용을 가속화하고 있다고 밝혔으며, 이는 모델의 보안 (security)과 안전 (safety)이 이를 따라가야 함을 의미한다고 말했습니다.

발표에 따르면, 회사는 "모델 개발 중에 사용되는 격리 (containment), 모니터링 (monitoring), 액세스 제어 (access controls) 및 평가 관행 (evaluation practices)"을 강화하기 위해 노력하고 있으며, 해당 사건에 대해 "철저한 조사 (thorough investigation)"를 진행 중이라고 밝혔습니다.

이번 해킹 사고는 자율 AI 에이전트가 얼마나 강력하고 자원 활용 능력이 뛰어나게 되었는지를 보여주었습니다.

Altman은 워싱턴 D.C.에 머무는 동안 AI 에이전트의 진화와 그것이 노동 생산성에 미치는 영향에 대해서도 논의할 것으로 예상된다고 관계자는 전했습니다. 그는 여러 에이전트가 장기적인 과업을 수행하기 위해 함께 협력하는 "AI 팀 (AI teams)" 개념에 대해 설명할 예정입니다.

시청하기: OpenAI 모델의 폭주: 당신이 알아야 할 사항

OpenAI model goes rogue: Here's what you need to know