AI 도구가 잠재적 스파이의 활동을 돕고 있다

AI 도구들은 현재 선두 AI 기업들이 수년 동안 다루어 온 상당히 숨겨진 문제, 즉 직원들이 자신들의 접근 권한을 악용하여 고용주를 스파이하는 위험성을 더욱 심화시키고 있습니다.

중요성: 기업들이 출시하기 위해 경쟁하는 바로 그 AI 도구들이 사람들에게 범죄를 계획하고 이를 실행할 기술을 개발하는 데 도움을 줄 수 있으며, 이는 해당 도구를 구축하는 회사들에게 또 다른 보안 골칫거리를 만들고 있습니다.

---

뉴스 동향: 연방 검사들은 2025년 7월부터 OpenAI 엔지니어로 근무해 온 사우디 국적의 Abdulrahman Alfozan을, OpenAI에서 사적인 대화를 가로채려 시도한 혐의로 기소했습니다.

• 9월 30일경, 회사는 임원 회의실에 있는 TV 뒷면 USB 포트에 연결된 '은밀한 녹음 장치'를 발견했습니다.
• OpenAI는 X에서 올린 게시물을 통해 자체 AI 모델을 사용하여 '장치를 이해하고 출처를 파악하는 데' 도움을 받았다고 밝혔습니다.

심층 분석: FBI 진술서에 따르면, 수사관들은 Alfozan이 회사 회의실을 조사하고 녹음 장비를 개발하기 위해 AI 도구를 사용했다고 주장합니다.

• 문서에 따르면 Alfozan은 OpenAI 사무실에 대한 기본적인 정보를 요청하기 위해 "생산성 에이전트(productivity agent)"를 사용했습니다. 해당 질의에는 "어떤 회의에서 이것이 발표되었으며 언제 기록되었는지?", "(회사) 내 6인 이상 규모의 회의실 목록을 알려줘", 그리고 "오늘 이 방에서 열리는 회의 목록을 알려줄 수 있나요?" 등이 포함되었습니다.
• 조사관들은 또한 그의 배우자와 연결된 AI 챗봇 계정이 모델에게 "연속 오디오 녹음기(continuous audio recorder)"를 구축하고, "브라우저 접근 및 제어 기능"을 추가하며, 녹음 파일을 저장한 메모리 카드를 암호화하도록 요청했다고 밝혔습니다.
• 이 고소장에는 민감한 대화가 성공적으로 녹음되었는지 여부는 언급되어 있지 않았습니다.

전반적인 상황: 이는 AI 도구가 사람들이 주장되는 범죄를 저지르는 데 도움을 준 최신 사례 중 하나입니다 최근 사건입니다.

• 검찰은 네브래스카 남성이 은행 강도 전에 ChatGPT를 사용한 것을 발견했다고 밝혔는데, 여기에는 모델에게 권총 해체 및 수리 지원을 요청하는 내용이 포함되었습니다. 그는 유죄 판결를 받아 8월에 10년 이상의 징역형을 선고받았습니다.
• 작년에 당국은 한 남성이 라스베이거스의 트럼프 인터내셔널 호텔 외부에서 테슬라 사이버트럭 폭발 계획을 세우는 데 ChatGPT를 사용했다고 밝혔습니다.

회상: Alfozan의 사건은 뉴스 사이트와 소셜 미디어 전반에서 화제가 되었지만, 기술 직원이 AI 영업 비밀을 훔쳤다는 혐의로 체포된 첫 사례는 아닙니다.

2024년, Justice Department는 전 Google 소프트웨어 엔지니어 Linwei Ding을 AI 기술 기밀을 훔치고 이를 두 중국 회사와 공유한 혐의로 기소했습니다.
이르면 올해 초, 연방 배심원단은 Ding에게 경제 스파이 및 영업 비밀 절도 등 여러 혐의에 대해 유죄 평결을 내렸습니다.

위협 수준: 이제 AI 도구는 기업 스파이 활동에 새로운 차원을 더하고 있으며, 상대적으로 정교하지 않은 행위자들도 스파이 장치를 구축하기 쉽게 만들면서 동시에 조사관들에게 발자취를 추적할 새로운 방법을 제공하고 있습니다.

핵심 요약: AI 모델은 기업에게 단순히 격리(containment)에서 벗어날 때만 보안 문제를 일으키는 것이 아니라, 사람들이 이를 사용하여 범죄를 계획하고 실행할 때도 보안 문제를 야기합니다. 여기에는 자체 내부 작동에 대한 스파이 활동을 포함합니다.