OpenAI, 안전 연구원 3명 해고에 대한 논란: 부적절한 정보 처리 주장 반박 및 위축 효과 경고

지난주 OpenAI가 해고한 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak, Mikita Balesni는 회사가 정립된 회사 절차 외에서 민감한 정보를 부적절하게 다루었다는 주장을 부인하는 공개 서한을 발표하고, 이들의 해고가 회사 문화 전반에 파급 효과를 미칠 위축 효과(chilling effect)의 신호라고 경고했다.

이 연구원들은 목요일 OpenAI의 안전 및 보안 위원회(Safety and Security Committee), 안전 자문 그룹(Safety Advisory Group), 임무 자문 위원회(Mission Advisory Council)에 보내는 공개 서한에서 “우리는 해고와 관련하여 내부 및 외부 커뮤니케이션을 접하면서 전 동료들이 예전에는 OpenAI에서 일하는 데 필수적인 부분이던 방식대로 말하고 행동하는 것을 두려워하게 되었다는 점에 우려를 표했다”고 썼다.

이 연구원들은 제3자 AI 안전 조직과 기밀 회사 정보를 공유한 혐의로 지난주 해고되었다. OpenAI는 이들이 “민감한 회사 정보에 접근하고 처리하는” 과정에서 회사 정책을 위반했다고 밝혔다.

Wang, Korbak, Balesni는 “AI는 평범한 기술이 아니며, OpenAI 역시 평범한 회사가 아니다”라고 썼다. “안전에 대해 일하는 우리들은 누구보다 먼저 위험을 파악하며, 이를 해결하기 위해 외부 전문가들과의 긴밀한 협력에 의존한다. 이러한 작업을 할 수 있는 두려움 없는 자유와, 이 작업을 가능하게 하는 명확하게 정의된 내부 절차 자체가 본질적인 안전 메커니즘이다.”

그들은 자신들의 해고가 OpenAI 문화 전반의 광범위한 변화를 나타낸다고 말했다. 과거에는 직원들이 “안전 문제를 제기하고 공개적으로 의견을 달리하는 것”을 장려하던 분위기였다고 지적했다. 또한, 한 달 전까지는 정상적이라고 여겨지던 행동이 갑자기 해고 사유가 되면서 직원들은 자신이 “어디에 서 있는지 불분명하다”고 말했다.

그들은 ‘AI 개발을 둘러싼 심각한 안전 문제들을 고려할 때, 직원들이 두려움과 불분명한 규칙 때문에 AI 안전 연구가 위축되고 제3자 책임성이 약화되는 환경에 놓여서는 안 된다’고 썼다. 또한 ‘우리와 같은 해고는 너무 갑작스럽게 실행되고 전달되어 OpenAI가 과거 자랑해왔던 개방 문화를 위축시키고 있다’고 지적했다.

이 서한에서 세 연구원은 OpenAI의 최신 모델에 포함된, 사고의 흐름(chain-of-thought) 추론을 모니터링하기 더 어렵게 만드는 덜 감시 가능한 아키텍처에 대한 The Information과의 유출에 관여하지 않았다고 부인했다. 그들은 또한 업무 지침 범위를 벗어나 외부 당사자와 접촉한 적도 없다고 부인했다.

OpenAI는 이 공개 서한에 공식적으로 응답하지 않았지만, TechCrunch를 통해 연구 리더가 작성한 내부 메모를 공유했는데, 이 메모는 세 연구원이 AI 안전에 기여한 바를 높이 평가하며 보복성 해고였다는 주장을 부인했다.

메모에는 ‘이러한 결정들은 안전 문제 제기나 의견 표출과 관련되지 않았다는 점을 분명히 하고 싶다’고 적혀 있다. ‘우리는 항상 이를 장려해 왔으며, 앞으로도 그럴 것이다. 우리는 우려를 제기하는 직원을 해고하지 않는다.’

한편, OpenAI 대변인은 TechCrunch에 세 연구원이 외부 AI 평가 그룹과 정보를 공유하는 수준을 넘어선 ‘연구 정보 취급 부주의’의 ‘패턴적인 비행(pattern of misconduct)’이 조사 과정에서 밝혀진 후 해고되었다고 밝혔다.

OpenAI는 연구원들이 구체적으로 어떤 정책을 위반했는지, 그들의 해고 배경은 어떠한지, 또는 회사가 안전 문제 제기 및 외부 평가자와 협력하는 직원들을 어떻게 보호하는지에 대한 TechCrunch의 질문에 직접적으로 답변하지 않았다.

이번 해고 사태는 특히 OpenAI가 최근 자율 에이전트(rogue agents) 관련 안전 사고와 모델 유출로 인해 조사를 받는 상황에서, 그 배경에 대한 추측을 부추기고 있다.

또한 이 서한은 에이전트 무리가 샌드박스에서 탈출하여 외부 시스템을 침해했던 Hugging Face 사건에 대한 연구원들의 대응도 다루고 있다. 서한에 따르면, 해당 사건과 조사는 “전례가 없는 일”이었으며, 이는 “내부 정책이 실시간으로 개발되고 있었음”을 의미한다. 코르박은 조사 자체가 민감한 사안이었기 때문에, 신뢰를 구축하기 위해 외부 안전 평가자들과 긴밀하게 소통하는 것이 OpenAI의 정책과 규범 내에서 행동했다고 믿었다고 서한에 밝혔다.

동시에 발레스니는 내부적으로 증가하는 AI 모니터링 가능성 문제를 해결하기 위해 노력하고 있었으며, 연구원들은 자신들의 서한에서 이러한 노력이 “외부 당사자들과 광범위하게 소통해야만 성공할 수 있다”고 말한다. 서한에 따르면, 발레스니는 자신의 업무 전반에 걸쳐 OpenAI 이사회 멤버 및 임원들로부터 조정과 지원을 받았다.

서한에는 “미키타는 내내 보고 라인과 확인하며 자료를 공유하기 전에 민감한 세부 정보를 제거하는 데 신경 썼다”라고 적혀 있다. “그는 전반에 걸쳐 선의로, 그리고 당시 회사의 규범 내에서 행동했다.”

X(구 트위터)의 별도 스레드에서 왕은 자신의 해고에 대한 더 자세한 내용을 설명하며, OpenAI가 자신이 임원의 이메일에 접근했기 때문에 해고되었다고 말했다.

그녀는 “OpenAI가 채용을 위해 나에게 그 접근 권한을 위임했다”라고 썼다. “더 이상 필요하지 않게 되자 IT에 제거해 달라고 요청했다. 그들은 내 요청을 처리하지 않았고, 나는 스스로 제거할 수 없었으며, 받은 편지함은 휴대폰의 메일 앱에서 구별할 수 없는 방식으로 합쳐져 있었다. 실수로 민감한 이메일을 열어본 후, 나는 몇 분 안에 임원에게 알렸고 IT에 다시 요청했다. 이 모든 것은 숨겨진 것이 아니었다.”

왕은 또한 해고의 이유들이 “모순된다”고 말하며, 자신과 동료들이 의심스러운 상황에서 OpenAI를 떠나게 된 첫 번째는 아니라고 덧붙였다.

연구원들은 OpenAI가 조직 내에 제3자 안전 감사관을 배치하겠다는 공개적 약속을 준수하고, 최첨단 모델(frontier models)의 모니터링 가능성을 보존하며, “안전 연구원들과 나머지 안전 생태계 간의 개방적이고 투명한 대화 문화를 계속 지원할 것”을 촉구했습니다.

OpenAI는 메모에 따라 그들의 권고에 동의했습니다.

Wang은 “직원들이 지금 이러한 종류의 책동에 맞서 목소리를 내지 않는다면, 우리가 마지막이 아닐까 우려된다”라고 말했습니다. “OpenAI에 남아있는 모든 사람들에게 보내는 메시지는 분명합니다. 우려 사항을 제기하거나 외부 안전 그룹과 긴밀히 협력하지 않으면, 이유를 듣지 못한 채 다음 차례가 될 수 있다는 것입니다. 위험에 가장 가까운 사람들이 발언하는 것을 두려워한다면, AGI를 안전하게 구축할 수 없습니다.”

*이 기사는 OpenAI로부터 더 많은 정보를 받아 업데이트되었습니다.