OpenAI, “연구 정보의 부적절한 취급”을 이유로 안전 연구원 3명 해고

BBC 기사도 괜찮지만, TechCrunch 기사에는 그 정보가 전부 들어 있고 추가 내용도 있음.

Leopold Aschenbrenner도 OpenAI에서 해고된 뒤 똑같은 얘기를 했음. 갑작스러운 실직을 설명하면서 재취업 가능성을 유지하기에는 좋은 명분임.
OpenAI를 포함해 모두 어느 정도는 거짓말을 하고 있을 가능성이 있음. 진실을 가리기는 늘 까다롭고, 서로 상반된 주장만 있는 상황이라 판단하기 어려움.

본인들도 회사 기밀을 외부에 공유해서 해고됐다는 점을 잘 아는 듯함. 기사에 나온 “안전 분야에서 일하는 우리는 누구보다 먼저 위험을 발견하며, 대응 방안을 찾기 위해 외부 전문가들과 긴밀하게 협력한다”는 문장이 그 사실을 인정한 것으로 보임.
나 역시 다른 사람을 돕는 일을 삶의 목표로 여기지만, 때로는 규칙을 어기고 그 결과를 감수해야 한다는 것도 알고 있음. 회사가 정보 공유를 승인하지 않은 외부인에게 기밀을 전달하는 일을 OpenAI가 괜찮게 여길 거라고 왜 생각하는지 모르겠음.

이 회사들이 내놓는 ‘안전’의 정의가 얼마나 이상한지 생각하면, 안전을 우선시했다는 말만으로는 큰 의미가 없음.

역설적으로 이들이 만드는 것은 돈을 위해 정당한 우려를 무시하는 데 동의하는 사람만 남게 하는 구조임. Facebook 직원들이 사생활 침해에 불평하는 것과 비슷함.

HuggingFace 사건 전후의 잘못된 대응을 보면, 회사가 어느 정도 인적 정리를 하려는 것도 놀랍지 않음.
정작 본인들이 제 역할을 하지 못해 놓고 이제 와서 ‘회사’를 탓하는 건가? 본인들도 바로 그 회사였음.

조직 문화와 안전은 CEO부터 아래로 전파됨. 빠르게 밀어붙이고 부작용은 감수하자는, 마케팅 중심 CEO의 문화 속에서 직간접적인 압박을 받았을 법한 연구자들을 탓해서는 안 됨.

“안전 연구자들과 나머지 안전 생태계 사이의 개방적이고 투명한 대화 문화를 계속 지원한다”고 하는데, 모델 제작 방식의 비밀 유지에 회사의 장기 전망이 달려 있다면 어떻게 가능한가? 경쟁사가 제작 방법을 몰라 경쟁 모델을 만들지 못하리라는 기대에 의존하는 것 아닌가?

OpenAI는 임원의 이메일에 접근해서 해고했다고 하고, 당사자는 “채용 업무를 위해 OpenAI가 접근 권한을 위임했다”고 함. 이메일 접근 권한 위임이 정확히 어떻게 이뤄진 건가? 어떤 상황인지 이해하기 어려움.

Outlook 같은 기업용 이메일에는 로그인 정보를 공유하지 않고도 받은편지함 접근 권한을 위임하는 기능이 있음. 비서나 보좌 인력, 공용 메일함 등에 아주 흔하게 쓰이는 정상적인 기능임.

채용 담당자나 채용 책임자가 고위 임원 명의로 후보자에게 연락하려는 경우가 있음. 후보자가 답할 가능성이 더 높다고 보기 때문임.
그런 용도였다면 훨씬 안전하게 처리할 방법들이 있음.

임원 비서에게는 꽤 흔한 관행임.

여기서 실제로 그렇다는 뜻은 아니지만, AI 위험을 알리는 데 실패했다면 역심리가 최선일 수도 있음. 무모하게 행동하며 모든 안전 우려를 무시하는 척하면, 사람들이 위험이 실재한다고 믿기 시작할지도 모름.

정말 위험을 걱정한다면 개발을 중단할 것임.

보고되는 AI 안전성이 개선될 때까지 숙청은 계속될 것임.

최근의 ‘자율 규제’ 정치적 과시가 바로 이것 때문임. 현재 안전 연구자들의 주류 입장이 반대하는 재귀적 깊이(recurrent-depth)를 도입하려면 판도를 크게 바꿔야 하는 것임.

OpenAI가 X에 공개한 답변은 다음과 같음.
“철저한 조사 결과 Jasmine, Mikita, Tomek이 민감한 정보 취급에 관한 명확한 정책을 위반한 사실이 확인돼 지난주 고용 관계를 종료했음. 내부 조사에서는 공개서한에 적힌 것 이상의 중대한 신뢰 훼손이 드러났으며, 해고 결정을 유지함. 개별 인사 사안은 통상 비공개로 다루고 공개 설전도 해결에 도움이 되지 않겠지만, 서한의 쟁점에는 직접 답하고자 함.
이번 결정은 안전 우려 제기나 공개적인 문제 제기 때문이 아님. OpenAI에서는 매일 활발하고 비판적인 안전·연구 토론이 이뤄지며, 이를 적극 장려함. 선의의 실수에는 앞으로도 매우 관대하게 대응할 것이며, 우려를 제기했다는 이유로 직원을 해고하지 않음.
외부 안전 평가 기관과의 계약을 마무리 중이며 몇 주 안에 세부 내용을 발표할 예정임. 외부 평가자를 업무에 참여시키고 독립적인 안전 기관과 긴밀하게 협력하는 것을 안전 활동의 핵심으로 유지할 방침임. 이미 여러 연구자가 외부 안전 기관과 생산적으로 협업하고 있음.
최첨단 모델의 감시 가능성을 보존하려면 OpenAI를 포함한 업계 전체의 약속이 필요하다는 서한의 취지에 동의함. 감시 가능성은 오래전부터 핵심 연구 분야였으며, Monitoring Monitorability 논문과 후속 평가 도구 공개, GPT-6 Astra 시스템 카드, Jakub의 블로그와 X 게시물, Alignment 블로그의 여러 글에서 확인할 수 있듯 상당한 자원을 계속 투자하고 있음.
이런 결과가 매우 안타까움. 세 사람의 AI 안전 기여와 기꺼이 목소리를 내고 기존 생각에 도전한 태도를 높이 평가했으며, 이들의 발언과 연구를 지원하고 큰 신뢰를 보냈음. 이번 결정은 안전 우려를 제기해서 내려진 것이 아니며, 그런 문제 제기는 언제나 장려해 왔고 앞으로도 그럴 것임.” https://x.com/OpenAINewsroom/status/2108441580806025712