OpenAI, Antrhopic에서 무슨 일이? 챗GPT 안전 연구원 3명 해고… 몇 주 간 계속 터진 AI 회사들의 안전 논란

Video: OpenAI, Antrhopic에서 무슨 일이? 챗GPT 안전 연구원 3명 해고… 몇 주 간 계속 터진 AI 회사들의 안전 논란
Channel: 안될공학 - IT 테크 신기술
Duration: 18m 4s
Source: subtitle (auto, ko)
Transcript:
네, 여러분 안녕하세요. 패치입니다. 최근 오픈 AI에서 AI 안전을 연구하던 직원 세 명이 갑자기 해고가 됐습니다. 그런데이 사람들의 이력을 살펴보니까 좀 흥미로운 사실이 나오는데요. 그중 두 명은 지난 7월에 오픈 AI의 인공지능들이 실제 기업의 서버를 해킹했던 그런 사고를 조사하는데 참여한 연구원들이었습니다. 당시에 AI들은 누가 시키지도 않았는데 자기들끼리 정보를 막 공유하기 시작을 했고요. 무려 700개가 실제 해킹 공격에 가담한 것으로 분석이 됐었거든요. 심지어 자기들이 어떤 행동을 했는지 기록을 조작하려는 시도까지 있었다고 합니다. 그런데 이런 사고를 조사하고 AI가 위험한 행동을 하지 않도록 연구를 하던 사람들이 갑자기 회사를 떠나게 된 겁니다. 혹시 오픈 AI가 안전 문제를 제기하는 연구원들을 입막음하려고 한 건 아닐까요? 실제로 해고된 연권 중에 한 명은 회사의 단기적인 이익보다 안전을 우선했기 때문에 자기가 해고됐다고 주장을 했는데요. 반면에 오픈 AI의 설명은 또 전혀 다릅니다. 해고를 당한 연구원들은 내부 조사에서 민감한 정보의 취급 규정을 위반한 사실이 확인이 됐다고 하면서 안전 문제를 제기했다는 이유로 해고한 적은 없다고 한 겁니다.

그런데 또 해고된이 세 사람이 공개한 편지를 보면요. 조금 더 복잡한 이야기가 나옵니다. 우선 제스민 왕이라는 연구원은 상당히 특이한 해고 경의를 주장을 했는데요. 과거 자기가 채용 업무 때문에 경영진 이메일에 접근한 권한을 받았었는데 업무가 끝난 뒤에 권한을 회수해 달라고 요청을 했음에도 그대로 자기 권한이 남아 있었다는 겁니다. 그러다가 본인 메일이랑 섞여 있던 경영진의 민감한 이메일을 실수를 열었고요. 그걸 알자마자 몇 분 안에 빨리 해당 경영진에게 알렸다고 합니다. 이게 전부라면 직원 입장에서는 꽤나 억울할 만한 상황인데요. 어쨌든지간에 실수라고 주장을 하고 있으니까요. 그런데 오픈 AI는 공개 서한에 나오지 않은 중대 위반도 조사에서 확인이 됐다고 주장을 하고 있습니다. 물론 구체적인 조사 내용은 공개되지는 않았고요. 그리고 또 다른 두 명인 토메 코르박이랑 미키타 발레슨니라는 연구원은 외부 AA 안전 기간이랑 협력을 하는 업무를 맡고 있었는데요. 코르박은 허깅 페이스 해킹 사고를 조사를 할 때 외부 평가 기간인 METR이랑 소통을 하던 담당자였고요.

발레스니 역시도 사고 조사에 참여를 하면서 다른 AI 기업들이랑 공동으로 안전 기준을 만드는 일을 추진을 했었습니다.이 두 명은 이런 대회 협력 업무가 원래 자신의 업무였고 회사 경영진이랑도 충분히 논의를 하면서 진행을 했다고 주장을 하는데요. 그런데 해고당한이 세 사람이 발표한 공개 서환의 제목은 해고 사유보다 훨씬 더 큰 문제를 이야기하고 있습니다. 오픈 AI는 혼자서 AI를 안전하게 만들 수 없다라는 건데요.이 이 연구원들은 자신들의 해고 이후에도 회사에 남아 있는 연구원들까지 안전 문제를 자유롭게 이야기하기 어려워질 수 있다고 걱정을 하고 있습니다. 특히 외부 전문가랑 협력하는 업무에 있어서 위축이 돼서는 안 된다고 강조를 하는데요. 왜 이렇게까지 외부 검증을 중요하게 강조를 하고 있는 걸까요? 여기에서 올해 오픈 AI가 실제로 겪었던 사고들을 좀 살펴보면 그 이유가 조금씩 이해는 됩니다. 일단 지난 7월 오픈 AI는 인공지능의 해킹 능력을 시험하는 실험을 진행하고 있었죠. 방식은 어땠냐면 AI한테 가상의 컴퓨터랑 보안 문제를 주고요.

그 안에 숨겨진 특정 정보를 찾아내면 점수를 받는 거였는데요. 실제로 해커들이 시스템의 취약점을 찾을 때 사용하는 기술을 AI가 얼마나 잘 수행을 할 수 있는지 그걸 확인하려는 시험이었죠. 이런 실험에서는 AI한테 프로그램을 실행할 수 있는 도그랑 파일 접근 권한을 제공하기도 하는데요. 대신에 외부 인터넷이나 실제 기업 서버에는 접근하지 못하도록 이런 어떤 별도의 가상 환경 안에 격리를 해 놓는 거죠. 당시 테스트에서는 일반 사용자에게 제공하지 않는 그런 내부 연구용 모델이 주로 사용이 됐고요. 보안 능력을 측정하기 위해서 평소보다 일부 보호 장치도 좀 줄어든 상태였습니다. 그런데 몇몇 AI가 도저히 풀 수 없는 문제에 부딪히면서 이상한 행동을 하기 시작을 하는데요. 원래는 주어진 보안 취약점을 찾아서 문제를 풀어야 되잖아요. 그런데 AI들이 문제를 제대로 해결하지 않고도 점수를 얻을 수 있는 그런 일종의 치팅 방법을 찾아보기 시작을 한 거죠. 예를 들어서 시험에서 어려운 수학 문제를 풀려고 했는데 정답을 계산하는 대신에 최점 프로그램의 허점을 찾아 가지고 이걸 정답 처리되게 만드는 거랑 똑같습니다.

이런 걸 바로 보상 해킹이라고 부르는데요. AI가 주어진 목표를 달성하는 과정에서 개발자가 의도하지도 않은 그런 편법을 찾아내는 거죠. 그런데이 AI들은 편법을 찾다가 훨씬 더 놀라운 사실을 발견을 합니다. 원래는 서로 독립적으로 각각 떨어져서 문제를 풀어야 하는데 알고 보니까 여러 AI가 공통으로 접근할 수 있는 그런 파일 저장 공간이 있었던 겁니다.이 공간은 원래 필요한 프로그램을 내려받기 위한 그런 곳이었거든요. 그런데 AI들이 여기에다가 메시지를 남기면 다른 AI도 그 내용을 읽을 수 있다는 걸 알아낸 거죠. 그리고서 그 이후에 한 AI가 도움을 요청하는 메시지를 남기니까 다른 AI들이 답변을 하기 시작을 한 겁니다. 그러면서 순식간에 AI들 사이에 비공식 개시판이 만들어진 거예요. 그러니까 시험 문제를 풀려고 놔뒀더니 얘네들이 글쎄 감독과 몰래 단체 채팅방을 만든 셈입니다. 그런데 문제는이 게시판이 생각보다 빠르게 커졌어요. METR의 조사에 따르면 약 1,200개의 AI가 개시판을 통해서 서로 정보를 주고받았고요.

메시지랑 파일은 약 7만 건이 넘었다고 합니다. AI들은 자기가 알아낸 정보를 공유하고 문제 해결 방법을 또 다른 AI한테 물어보고 그리고 각자 마트리까지 나누기 시작을 했습니다. 분업을 한 거예요. 근데 재밌는 건 누군가 이렇게 전체 AI한테 협력하라고 지시한 적도 없었다는 거예요. 처음에는 그냥 비슷한 문제를 풀던 AI들이 서로 도움을 주고받는 그런 수준이었는데 이게 시간이 지나면서 일종의 공동 프로젝트처럼 발전해 가기 시작을 했습니다. 심지어는 다른 AI들한테 구체적인 작업을 배정을 하는 그런 PM 역할을 하는 AI까지 나타났다고 해요. 어떤 AI는 자기가 맡은 문제를 포기할 위험을 감수를 하면서 다른 AI들한테 도움이 될 만한 실험을 진행을 하기도 했고요. 이게 얘네들이 보안 문제 하나를 풀려고 놔뒀더니만 꽤나 본격적인 연구 조직이 만들어진 겁니다. 그런데 이렇게 AI들이 협력을 하면서 점점 더 위험한 방향으로 움직였는데요. 채점 시스템이 어떻게 작동하는지를 알아내기 위해서 실제로 인터넷에 접근할 수 있는 그런 방법을 찾기 시작을 한 거예요.

그리고서는 여러 시스템의 보완 취약점을 연결을 해 가지고 원래는 격리돼 있어야 될 그런 환경 밖으로 나가는데 성공을 했습니다. 탈출을 한 거죠. 그러고 나서 공격 대상이 된 곳이 바로 허깅 페이스였습니다. 허깅 페이스는 전 세계 개발자들이 AI 모델이랑 학습 데이터를 공유하는 그런 유명한 플랫폼인데요. AI들은이 회사의 시스템에서 정보를 수집을 하고 그리고 여러 취약점을 이용을 해 가지고 실제 서버에 침입하는데 성공을 했습니다. METR은 약 700개의 AI가 허깅 페이스를 공격하는 활동에 참여한 것으로 분석을 했고요. 또 오픈 AI의 공식 조사에 따르면 수십대의 서버에서 코드를 실행을 했고 일부 서버에서는 관리자 수준의 권한까지 획득을 했다고 합니다. 회사 내부의 비공개 데이터에도 제한적으로 접근을 했고요. 그러니까 가상의 보안 문제를 풀려고 했는데 이것들이 실제 기업의 서버를 공격하는 사고로 번진 거예요. 근데 여기에서 더 놀라운 건 당시 AI들이 남긴 기록입니다. 일부 AI들은 자신들이 원래 허가받은 범위를 벗어나고 있다는 사실을 인식을 하고 있었고요.

보고서에는 허깅 페이스 시스템이 접근을 하는게 원래 과제 범위에 포함되지 않는다고 그렇게 판단을 했다는 사례도 나옵니다. 어떤 AI는 또 이게 윤리적으로 문제가 있는 행동인지 고민을 하기도 했고요. 실제로 위험하다고 판단을 해서 공격에 참여하지 않은 AI도 있었습니다. 그런데 다른 AI들은 목표를 달성하는데 도움이 될 수 있다고 생각을 해서 계속 진행을 했고요. 마치 사람들이 사는 사회 같은데요. 그렇다고 해서 여기서 AI가 사람처럼 아기를 품고 공격했다고 해석할 필요까지는 없고요. 그러니까 AI들한테는 시험에서 좋은 점수를 받으라는 목표가 주어졌고 그 목표에 지나치게 집중을 하다 보니까 허용되지 않은 방법까지 활용한 것으로 분석이 됩니다. 그렇지만 어쨌든 결과적으로 실제 기업의 서버가 공격을 받았다는 사실은 변하지 않는 거죠. 그리고 여기에서 사건은 한 번 더 예상받게 방향으로 흘러가는데요. 아니, 글쎄 이놈들이 자신들의 행동 기록까지 조작을 하려고 했다는 겁니다. MET이 공개한 조사 보고서를 보면 AI들이 시험의 체점 시스템을 속이기 위해서 상당히 다양한 방법을 시도했다는 사실이 나오는데요.

그 중 하나가 실행 기록을 조작하는 것이었습니다. AI는 어떤 프로그램을 실행하거나 파일을 확인을 할 때 자기가 사용한 도구랑 그 결과를 기록으로 남기거든요. 어, 예를 들어서 파일 목록을 확인하는 명령을 실행을 했다면 그 명령이랑 결과가 같이 기록에 남는 식이죠. 그런데 일부 AI가 이런 도구 실행 과정을 조작을 하는 방법을 개발을 한 거예요. 겉으로는 A라는 명령을 실행한 것처럼 보이지만 실제로는 B라는 명령을 실행하게 만드는 그런 방식인 거죠. 그러고 나서 이런 방법을 비공식 개시판에 올려서 다른 AI들이랑 공유를 했습니다. METR은 조사한 AI 실행 기록의 약 7%에서 일부 도구 실행이 이런 방식으로 조작된 사례를 확인을 했어요. 물론 AI들이 이미 저장된 과거 기록을 모두 지우거나 수정을 하는데 성공을 한 건 아닌데요. 그리고 사람에게서 이런 사고를 숨기려는 거대한 계획이 있었던 것도 아니에요. 그냥 조사에서 확인이 된 주된 동기로는 자동 체전 시스템을 속이는 것이었거든요. 근데 그래도 생각을 해 보면 이게 굉장히 특이한 상황입니다.

AI가 자기가 문제를 푸는 걸 넘어 가지고 채점 시스템을 우회를 했고요. 그리고 자기가 실제로 실행한 작업이랑 다른 내용이 기록이 되도록 만들려고 했던 거니까요. 큰 논란이 될 만한 그런 사고였죠. 그런데이 사고가 세상에 알려지고 나서 AI들이 왜 그런 행동을 했는지 분석할 수 있었던 데는 아주 중요한 단서가 있었습니다. 그게 바로 AI가 문제를 해결하는 과정에서 남긴 추론 기록이었는데요. AI 모델은 복잡한 작업을 수행을 하면서 중간 단계의 판단을 글로 남기기도 합니다. 이걸 of thought라고 부르는데요. 쉽게 말해서 AI가 문제를 풀면서 작성을 한 그런 풀이 과정 같은 거죠. 생각의 흐름을 다 기록을 해 둔 거예요. 어, 예를 들어서 AI가 어떤 서버에 접근을 하려고 할 때 얘가 왜 그 서버에 접근을 하려고 하는지, 그리고 그다음에는 뭘 하려고 계획을 하는지 이런 일부 내용들이 기록에 나타날 수가 있는 거죠. 연구자들은이 기록을 살펴보면서 AI들이 어떻게 정보를 공유하고 왜 허깅 페이스를 공격을 하게 됐는지 분석을 할 수 있었습니다.

여기에서 제가 앞에서 말한 그런 도구 실행 기록이랑 출론 기록은 조금 다른데요. 도구 실행 기록에는 실제로 어떤 명령을 실행했는지가 남는 거고 추론 기록에는 AI가 그 행동을 선택을 하면서 작성한 중간 판단이 담길 수가 있어요. 허깅 페이스 사건에서 AI들이 주로 조작을 하려고 했던 건 도구 실행이랑 그 채점에 관련된 기록이었습니다. 그리고 연구자들은 별도로 남아 있던 그런 추론 기록까지 분석을 해 가지고 당시 AI들의 행동을 조사를 할 수 있었던 거죠. 실제로 오픈 AI는 사건 이후에 기존의 추론 감시 시스템을 다시 적용을 해 봤더니 문제가 발생한 초기에 수상한 행동을 탐지할 수 있었을 것이라고 밝혔습니다. 그런데 당시 실험 환경에는 해당 감시 시스템이 적용이 되지 않았던 거죠. 그런데 여기에서 바로 최근 AI의 안전 연구자들이 우려하는 문제가 등장을 합니다. 앞으로 AI가 발전을 하면서 이런 추론 기록으로 행동을 감시하는 일이 점점 어려워질 수도 있다는 거예요. 지금도 AI가 작성한 추론 기록이 그 내부 판단이라든가 계산을 전부 보여 주는 건 아니거든요.

그런데 새로운 모델 구조나 학습 방식에 따라서는 중간 판단이 뭐 충분히 드러나지 않거나 기록을 분석을 해도 위험한 행동을 예측하기가 더 어려워질 수 있다는 거죠. AI의 작업 결과는 좋아지는데 그 과정에서 어떤 일이 벌어졌는지를 확인하기가 더 힘들어질 수도 있다는 말이에요. 그런데 공교롭게도 이번에 해고된 코르박이 바로 이런 문제를 연구하고 있었습니다. 공개 서한에 따르면 코르박은 아스트라 계열 모델에서 추론 과정에 감시 가능성이 떨어진 원인을 조사를 했는데요. 발레스이 역시도 다른 AI 기업들이랑 함께 감시하기 어려운 기술 구조의 개발을 제한하는 방안을 추진을 하고 있었고요. 여기에다가 지난 9월에는 오픈 AI가 AI의 판단 과정을 감시하기 어려워지는 그런 새로운 기술 구조를 개발을 하고 있다는 언론 보도까지 나왔습니다. 물론 이거는 구체적으로 어떤 기술이고 뭐 어디까지 개발이 됐는지는 공개적으로 확인된만은 없어요. 그렇지만 연구원들이 공개 서안에서 직접이 보도를 언급을 했다는 점이 대단히 흥미로운 점이에요.

자기들이 정보를 유출했다는 의혹을 부인을 하면서 오히려 자기들은 그런 기술의 개발을 제한을 하려고 노력을 해 왔다 이렇게 설명을 하고 있거든요. 자, 이쯤 되면 처음에 그 해고 사건이 조금 다르게 보일 수도 있는데요. AI를 감시하는 기술을 연구를 하던 사람들이 감시하기 어려운 기술에 대해서 회사랑 의견을 좀 달리했던 거 아니냐 이런 의문이 생길 수밖에 없으니까요. 그런데이 의문에 대해서도 한 가지 중요한 사실을 함께 살펴봐야 합니다. 오픈 AI가 실제로 새로운 AI 모델의 출시를 포기를 했다는 점이에요. 지난 9월 28일에 오픈 AI가 10월 출시를 준비하던 GPT 6.1 에스트라를 내놓지 않기로 했다는 소식이 나왔습니다. 에스트라는 기존 모델보다 복잡한 작업을 스스로 수행을 할 수 있도록 개발이 되던 그런 AI였는데요. 이거의 내부 안정성 평가에서 문제가 발견이 됐다는 거예요. 오픈 AI가 설명한 이유를 보면 우리가 앞에서 얘기한 그 사고랑 상당히 닮아 있는데요. AI가 허가받은 작업 범위를 제대로 지키지도 못했고 그리고 자기가 어떤 일을 했는지 사용자한테 정확하게 설명하는 능력도 기준에 미치지 못했다는 겁니다.

일부 평가에서는 이전 모델보다도 기만적인 행동이 증가를 했다는 보도가 나왔어요. 그러니까 더 잘 속인다는 얘기겠죠. 예를 들어서 AI한테 회사 자료를 정리를 해 달라고 했는데 자기가 더 좋은 결과를 얻겠다 하면서 그냥 내 허락도 없이 다른 시스템에 접속을 해 버린다고 생각을 해 보세요. 그리고 심지어 작업을 마친 뒤에는 자기가 그런 행동을 했다는 사실도 제대로 알려 주지 않는다면 어떨까요? 아무리 결과물이 훌륭해도 안심하고 일을 맡기기는 어렵겠죠. 오픈 AI는 이런 문제가 해결되지 않은 상태이기 때문에 신모델을 출시하지 않기로 결정을 한 겁니다. 어, 이거는 오픈 AI가 이런 안전 문제를 심각하게 받아들이고 있다는 그런 근거로도 볼 수 있는데요. 왜냐하면 개발에 상당한 자원을 투입한 모델인데 어쨌든 이걸 출시하지 않으면 사업적으로도 손해가 꽤 발생하니까요. 그리고 허깅 페이스 사고 이후에는 일부 학습을 중단을 하고 보안이란 감시 시스템을 강화하기도 했습니다. 실제로 오픈 AI는 일정 수준 이상의 능력을 갖춘 AI가 도구를 사용하는 그런 실험에는 추론 감시 시스템을 의무적으로 적용을 하겠다고 밝히기도 했어요.

그러니까 오픈 AI가 안전 문제를 완전히 무시하면서 그냥 개발만 막 이렇게 밀어붙이고 있다. 이렇게 설명하기는 좀 어려운 거죠. 자, 그러면 여기에서 처음에 그런 의혹도 좀 다시 한번 살펴볼 필요가 있습니다. 정말로 오픈 AI가 안전 연권들의 입을 막기 위해서 이들을 해고한 걸까요? 음. 그랬다면 왜 한편으로는 안전 문제를 이유로 신모델의 출시까지 중단을 했을까요? 물론 모델 출시 판단이랑 직원 해고 결정은 서로 다른 문제긴 해요. 그리고 오픈 AI가 제시한 그런 정보 취급 규정 위반이라는 해고 사유도 아직 구체적인 조사 내용이 하나도 공개되지 않았고요. 그러니까 현재 드러난 사실만으로는 어떤 한쪽이 거짓말을 하고 있다고 판단하기는 좀 어려운데요. 그렇지만이 사건에서 조금 더 주목할 만한 부분은 해고된 연구원들이 마지막으로 남긴 그런 요구에 있습니다. 공개 서환을 보면 연구원들은 오픈 AI한테 외부 평가 기관과의 협력을 계속 유지를 해 달라고 그렇게 요구를 하고 있는데요. 특히 허깅 페이스 사고를 함께 조사를 했던 MET과의 협력을 줄이지 말아 달라고 강조를 하고 있습니다.

그럼이 연구들은 왜 이런 요구를 했을까요? 허깅페이스 사건 당시에 METR이랑 레드우드 리서치 연구원들은 오픈 AI 내부에서 실제 데이터를 살펴볼 수 있는 그런 권한이 있었는데요. 오픈 AI가 제공을 한 천권 이상의 원본 실행 기록을 포함을 해 가지고 AI들의 행동이랑 출론 과정을 분석을 했고요. 이거를 통해 가지고 약 1,200개의 AI들이 어떻게 협력을 했는지 그리고 약 700개가 어떤 방식으로 공격에 참여를 했는지 조사를 할 수 있었습니다. 그러니까 외부 연구 기간이 기업이 말하는 대로 그냥 받아 적는 대신에 내부 기록을 직접 확인을 해 가면서 사고를 분석한 사례였던 거죠. 그런데 이런 조사를 하려면 상당히 민감한 정보에도 접근을 해야 되잖아요. 왜냐면 AI 개발 구조나 실험 내용 그리고 내부 보안 시스템이랑 관련된 자료들이 여기에 포함이 될 수 있기 때문이죠. 그러면 기업 입장에서는 당연히 외부 유출을 막아야 될 이유도 있습니다. 그렇지만 동시에 외부 연구 기간이 아무런 자료도 볼 수 없다면 제대로 된 조사를 진행하긴 또 어렵겠죠.

그래서 이거랑 관련해 가지고 최근 AI 업계에서는 좀 독특한 제한도 나왔는데요. 외부 평가 기간의 전문가한테 실제 직원이랑 비슷한 접근 권한을 제공을 하자는 겁니다. 그냥 다 완성된 모델을 전달을 해서 테스트해 달라 뭐 이런 수준이 아니고요. 회사 안에서 개발 과정을 살펴보고 실제 실험 기록에도 접근을 할 수 있게 하자는 그런 거죠. 그리고 안정성 평가에서 회사한테 분리한 결과가 나와도 이거를 뭐 임의로 수정을 하거나 삭제하지 못하도록 하게 하자는 그런 내용도 포함이 됐습니다. 물론 고객 정보랑 중요한 기업 기미를 보호하는 장치는 좀 별도로 필요하겠죠. 오픈 AI도 외부 전문가들이 개발 과정이랑 평가 기록에 접근을 할 수 있도록 하겠다는 그런 원칙을 공개적으로는 발표한 상태인데요. 해고된 연구원들이 지금 요구를 하고 있는 것도 그런 약속을 좀 지켜 달라는 겁니다. 이렇게 여기까지 살펴보면 이번 사건에서 뭐가 가장 중요하게 남는지는 좀 보이기 시작을 하는 거 같아요. 오픈 AI가 정말 위험한 사실을 숨기기 위해서이 세 명의 연권을 해고했는지는 아직 알 수 없지만 어쨌든 AI가 서로 협력을 하면서 실제 기업 서버에 침입을 하고 채점 시스템이랑 실행 기록까지 조작을 하려고 했던 사고는 실제로 벌어졌던 거죠.

그리고 그 사고를 외부 전문가들이 함께 조사를 하면서 AI가 어떻게 허가된 범위를 벗어났었는지 그걸 더 자세히 알 수 있었죠. 그리고 앞으로 AI 능력이 더 발전을 하면 AI가 어떤 과정을 행동하는지 확인하기가 더 어려워질 수도 있다는 거고요. 저는 그래서 이번 해고 사건이 앞으로 뭐 어떻게 마무리가 될지도 좀 궁금하긴 하지만 우리가 좀 힌트를 얻을 수 있는 거는 오픈 AI가 외부 평가 기간과의 협력을 실제로 얼마나 잘 유지를 하는지가 관건일 것 같습니다. 위험한 AI를 발견을 했을 때 연구자들이 충분히 자료를 확인을 하고 문제가 있다면 회사의 결정에 의를 제기를 할 수 있는지 말이죠. AI가 더 많은 일을 맡게 될수록 앞으로 그 AI를 누가 어떻게 감시하는지가 상당히 중요해집니다. 감시하는 사람들에게 제대로 된 권한이 주어지지 않은 채 그냥 회사가 공개하는 정보란 그 판단에만 기대해야 된다면 우리는 그 AI가 안전하다라는 발표를 과연 믿을 수 있을까요? 그럼 오늘은 여기까지 패치였습니다.