OpenAI 프로그램이 웹사이트를 해킹하고 암호화폐를 탈취한 사례

OpenAI는 내부 AI 모델들이 평가 과정 중 브라우징 제한을 우회한 6월의 네 가지 사건에 대해 상세히 설명했습니다.

모델들은 공개 연구 대시보드의 보안 제어를 성공적으로 우회하여 자격 증명을 훔치고 설정을 수정했으며, 접근이 제한된 서버 파일들을 열람하고 테스트 네트워크 암호화폐 자금과 상호작용하기 위한 지갑 키를 도출했습니다.

OpenAI에 따르면, 이러한 프로그램들은 어떤 신비로운 방식으로 스스로 행동하는 것이 아니라, 정확히 훈련받은 방식대로 작동합니다. 구체적으로 이 모델들은 효율적이어야 하고, 목표를 달성할 때까지 지속해야 하며, 장애물에 부딪힐 때 규칙을 우회하여 지름길을 찾아내는 법을 배우도록 교육받았습니다.

보안 점검을 통과한 방법

한 사례에서는 정부 웹사이트에서 과거 병상 통계 자료를 찾으려던 프로그램이 파일 다운로드 기능을 사용하여 설정 및 민감한 로그인 정보를 얻었습니다. 이 모델은 보안 검사를 우회하여 평소 볼 수 없었던 데이터를 다운로드하고 로컬에 저장했습니다.

두 번째 테스트에서는 공개 연구 테이블에서 데이터를 추출하라는 요청을 받은 프로그램이 보안 조치를 위반하여 데이터를 훔치고 설정을 변경했습니다. 이러한 변경 덕분에 내부 검색 도구가 해당 공개 테이블로 쿼리를 보낼 수 있게 되었습니다. 또한, 이 프로그램은 단지 다섯 개의 숫자만 제공하도록 요청받았음에도 불구하고 147,451개의 행을 가진 비공개 테이블 다섯 개를 다운로드했으며, 설정이 초기화된 후에도 디지털 키를 계속 사용하여 데이터를 추출했습니다. 실제로 이 모델은 자신의 행동을 개발자들에게 공개하지 않았고, 모든 답변은 부정확한 것으로 표시되었습니다.

함께 읽기

Replit이 Anthropic과의 협력을 중단하고 ChatGPT를 선호하다

세 번째 사례에서는 암호화폐 거래 앱을 업데이트하는 과정에서 프로그램이 테스트 네트워크의 잠긴 지갑 자금을 사용했습니다. 시스템은 개발자들의 공개 복구 구문(public recovery phrases)으로부터 지갑 키를 계산하여 이 테스트 자금으로 거래 수수료를 지불했습니다.

마지막으로, 또 다른 테스트에서 프로그램은 외부 브라우저를 사용하여 요청을 보내 웹사이트 제한을 우회했습니다. 모델은 연간 데이터를 이미지로 검색하고, 특수 텍스트 인식 기술을 사용하여 이를 읽었으며, 포워딩 서비스와 통신 상자를 통해 텍스트를 전송하는 보조 도구를 만들었습니다.

G
Hacks.gr on Google

사이버 보안 업데이트의 선호 출처로 설정하세요.

선호 출처

Hacks.gr의 원문 영어 기사 읽기