OpenAI 엔지니어, 임원 회의실 도청 혐의로 체포

그다지 영리한 스파이는 아닌 듯함. 검찰에 따르면 Alfozan의 배우자와 연결된 챗봇 계정은 본인 계정과 식별자를 공유했고, 9월 2430일 녹음 장치 제작·설치·은폐·원격 접속 방법을 질문함.
연속 녹음기 제작과 SD 카드 암호화뿐 아니라, 9월 2728일에는 나중에 발견된 장치의 고유 MAC 주소까지 넣어 질문했다고 함.

LLM에 입력한 생각이 모두 기록되고 증거로 쓰일 수 있음을 뒤늦게 알게 될 사람이 꽤 많을 듯함.

장치가 SD 카드에 저장하는 방식이었으니, 발견한 뒤 회수하러 오는 사람을 잡으려고 몰래 카메라를 설치했을 가능성이 큼.

사진 날짜는 장치 발견 며칠 뒤인 10월 5일임. 다시 돌아올 것으로 예상하고 카메라를 설치한 듯함. 사진 속 순간에 본인도 들켰다는 걸 깨달았을 것 같아 섬뜩함.

친한 친구가 시청각 장비 설치를 관리하는데, HN에서도 좋아할 만한 멋진 장비를 다룸. 그 친구 말로는 회의실에 영상·음성 녹화 장치가 설치된 곳이 상당히 많다고 함.

FBI 샌프란시스코 지부 책임자가 민감한 연구와 독점 기술을 보호하겠다고 했지만, 정교한 국가 차원의 산업 스파이 활동을 암시하는 제목과 인용문은 지금까지 공개된 사실과 잘 맞지 않음.
임원 회의실을 도청해서 얻을 수 있는 건 실행 가능한 연구 자료보다는 재무나 거래 협상 정보에 가까움. 국가 차원의 공작원이 Seeed Studio에서 15~35달러짜리 취미용 ESP32 보드를 사서 공개 챗봇에 설정법을 묻는 모습도 상상하기 어려움. 나도 집 자동화용으로 몇 개 주문한 제품임.
입사 약 15개월 된 엔지니어라면 1년의 최초 주식 보상 확정 대기기간을 넘겼을 테고, OpenAI 상장 후 최소 100만 달러, 어쩌면 훨씬 더 큰 가치가 될 RSU를 이미 확보했을 가능성이 큼. 해고를 피할 유인이 강하고 돈으로 내부 첩자를 포섭하기도 어려울 조건임.

앞으로 체결되거나 종료될 OpenAI 거래 정보를 이용해 옵션 거래로 500만~1,000만 달러 이상 벌 수 있다고 생각했을 수도 있음. 범죄자 대부분은 잡히지 않을 거라고 가정함.

연구만이 첩보 수집 대상은 아님. 출시 결정, 대형 계약, 정부와의 관계, 협박 자료 같은 임원급 대화도 매우 가치가 큼. 국가가 지원하는 작전도 허술하거나 실패할 수 있음. 그런 예는 많고, 그 뼈톱 사건도 떠올려 볼 만함. 동기도 돈만은 아니며, 정부는 아주 강력한 압박 수단을 갖고 있음.

그래도 그 100만 달러가 어설픈 내부자 거래를 막을 만큼의 유인은 아니었던 모양임.

적어도 거래에 쓸 정보는 얻을 수 있음. AMD나 Broadcom 등과 맺을 다음 계약을 미리 듣고 옵션을 사는 식임.

도구를 써서 주변 모든 사람을 끊임없이 엿보는 부류가 실제로 있음. 1990년대에 알던 사람은 업무용 PC에 “gator spying tool”을 설치하고 다른 사람에게 PC를 쓰라고 권한 뒤 비밀번호를 훔쳐 개인 이메일을 들여다봄.
당시에는 모두에게 업무용 PC가 있던 시절도 아니었음. 내게 그 짓을 떠벌린 뒤 자기 PC를 써 보라고까지 했지만 당연히 거절함.

이 사람은 2017~2022년 Meta에서 데이터 인프라 관련 일을 했음. Meta도 당시 스파이 활동을 했는지 확인하려고 지금 내부 감사를 진행하고 있을 것 같음.

오히려 Meta에 보고하던 사람이었을 가능성은 없을까?

“자사 모델로 장치와 출처를 파악했다”는 대목에서 크게 웃었음. 모델 홍보 기회는 절대 놓치지 않는 모양임.

정말로 이제 거기서는 모든 문제를 “모델에 물어보기”로 해결한다면, 어떤 의미에서는 더 웃길 듯함.

“자사 모델로 장치와 출처를 파악했다”니, OpenAI가 스파이 혐의를 제기하는 와중에도 마케팅을 한 건가?

저 문구를 넣는 게 자연스럽다고 여긴 사람들은, 정작 그게 얼마나 절박하고 값싸 보이는지 알면 놀랄 듯함.

그래도 요즘 FBI에서 누가 출동하든, 그 사람보다는 OpenAI가 쓴 모델에 걸겠음.

임원 회의실 영상을 우리 데이터센터로 보내면 누가 염탐하는지 알려주겠다는 셈임. 감시를 막겠다며 영상을 넘기라는 구조임.

MBS가 꾸민 일로 보이고, 예전 Twitter 사건이 반복되는 듯함. 이런 식으로 사우디를 LLM 강국으로 만들 수 있다고 생각했다면 정말 감이 없는 셈임.

증거 중 일부는 아내의 ChatGPT 대화 기록이었음. AI에게 하는 말은 미국 정부가 들여다보고 자신에게 불리한 증거로 쓸 수 있다는 걸 잊지 말아야 함.

AI에만 해당하는 얘기가 아님. 요즘은 국가가 충분히 관심을 가지면 거의 모든 행동을 볼 수 있음. 사회와 완전히 단절해 살 게 아니라면, 가능한 모든 자료가 자신에게 불리하게 쓰일 수 있다고 봐야 함.
미국 정부는 불륜을 알고 있다는 편지를 보내 Martin Luther King의 자살을 유도하려고까지 했음. 누군가의 아내가 남긴 ChatGPT 기록을 확보하는 건 오늘날에는 일상적인 수사 절차에 가까움. 국가의 무력 독점은 그 힘이 내 집 문을 두드리기 전까지는 안심을 줌. https://en.wikipedia.org/wiki/FBI-King_letter

아내 계정으로 바꾸면 추적하지 못할 것이라고 생각한 셈임. 아마추어라고 부르는 것도 아마추어에게 실례일 정도임.

생각을 맡기는 서비스에 제공업체가 수상한 내용을 보고하도록 지시할 수도 있는 세상이 됐음. 업체들이 의사결정권자의 계정을 감시하는지도 궁금함.
중앙은행 관계자가 어떤 결정을 내릴지 알아내면 돈을 벌 수 있고, 심지어 그 결정을 대신 내려주고 있을 수도 있음. 내부 정보로 자율적으로 판단하는 AI 에이전트를 붙이면 이 과정까지 자동화할 수 있음.

법무부 발표에는 배우자의 계정이 본인 계정과 여러 식별자·속성을 공유했고, 녹음 장치 제작·설정·은폐·원격 접속 등을 질문했으며 장치의 맞춤형 헤더와 고유 MAC 주소까지 입력했다고 나옴.
OpenAI 계정이라고 명시하지는 않았지만, 장치의 MAC 주소가 담긴 기록까지 확보했다는 점에서 그렇게 추정할 수 있을 듯함. 아니라면 다른 챗봇 제공업체가 협조했을 가능성이 있음.
어느 쪽이든 자기 건물에서 발견한 장치의 MAC 주소를 자신이 소유한 데이터에서 문자열 검색하는 게 데이터 남용처럼 보이지는 않음.

모든 클라우드 서비스가 마찬가지임. 범죄 수사 대상이 되면 수사기관이 데이터에 접근할 수 있고, 컴퓨터 자체를 압수할 수도 있음. 누구보다 잘 알 사람이었을 텐데, 정말 안 잡힐 거라고 생각한 듯함.

국가가 지원하는 기업 첩보 활동이 얼마나 많을지 궁금함. OpenAI 직원은 아니지만, 기술 스타트업은 개방성과 신뢰가 높은 곳이라고 생각해 왔고, 그게 사람들이 거기서 일하는 이유 중 하나이기도 함.
상당수 기법과 계획, 수치가 국가 정보기관에는 이미 공공연한 비밀일 것 같음.