오픈AI, EU에서 챗GPT 텍스트에 워터마크 삽입 시작 예정

오픈AI는 EU AI법을 준수하기 위해 유럽연합에서 챗GPT와 코덱스가 생성하는 텍스트에 눈에 보이지 않는 워터마크를 삽입하기 시작한다고 월요일 블로그 게시물을 통해 밝혔다.

8월 2일 발효된 EU AI법의 투명성 규정은 AI 기업이 AI 생성 콘텐츠에 다른 시스템이 식별할 수 있는 방식으로 표시하도록 요구한다.

오픈AI는 앞으로 몇 주에 걸쳐 EU 내 적용 대상 챗GPT 및 코덱스 사용자에게 모든 요금제에서 워터마크 기능을 순차적으로 도입한다고 밝혔다. 전 세계 어디서든 오픈AI API를 사용하는 개발자는 오늘부터 일부 모델에서 이 기능을 켤 수 있으며, 기본 설정은 꺼짐이다. 오픈AI는 출시 시점에 텍스트 워터마크를 전 세계의 기본 설정으로 적용하지는 않는다고 밝혔다.

워터마크는 실제 기호가 아니라, 모델의 단어 선택을 미묘하게 조정해 독자에게는 보이지 않지만 탐지기는 포착할 수 있는 패턴을 남기는 방식으로 작동한다. 단어 자체에 담겨 있기 때문에 텍스트를 복사해 붙여 넣어도 함께 따라간다. 오픈AI는 워터마크가 사용자를 식별하지 않으며, 기능을 켰을 때 모델 성능에도 유의미한 변화가 없었다고 밝혔다.

오픈AI는 이번 발표와 함께 텍스트그레인이라는 워터마크 기법의 기술 보고서도 공개했다. 펜실베이니아대학교와 예일대학교 연구진이 공동 집필한 이 보고서는 비밀 키로 다음 단어 예측 후보를 분류해 문장을 완성하는 예시를 단계별로 설명한다. 이런 미세한 조정을 수백 번 누적하면 탐지기는 텍스트와 키만으로 AI 생성 콘텐츠를 알아낼 수 있다.

텍스트를 편집하면 워터마크를 없앨 수 있을까? 오픈AI의 테스트 결과는 그럴 수 있음을 시사한다. 한 테스트에서는 단어의 10%를 동의어로 바꾸자 탐지율이 약 92%에서 66%로 떨어졌다. 회사는 짧은 글, 수학 답변, 번역된 텍스트도 탐지가 더 어렵다고 밝혔다.

“이러한 한계도 탐지기 초기 접근 권한을 승인된 연구자와 전문 기관에만 제공하기로 한 결정의 이유 중 하나입니다. 이들은 신뢰성과 책임 있는 활용 방식을 평가하는 데 도움을 줄 수 있습니다.” 회사는 이렇게 밝혔다.

오픈AI는 워터마크가 없다고 해서 “사람이 작성했다는 증거가 되는 것은 아니다”라고도 주의를 당부했다. 텍스트가 너무 짧거나 지나치게 많이 편집됐을 수 있고, 다른 회사의 AI가 생성한 것일 수도 있기 때문이다.

“워터마크는 오픈AI 시스템이 글의 일부를 생성하거나 처리했다는 점을 나타낼 수는 있지만, 그 글에 사람의 판단이나 편집, 창의성이 얼마나 들어갔는지는 보여 주지 못합니다.” 회사는 이렇게 밝혔다.

이번 발표는 앤트로픽이 클로드가 생성하는 텍스트에 워터마크를 삽입하겠다고 밝힌 지 두 달 만에 나왔다. 앤트로픽은 이 조치를 전 세계에 적용하고 있다. 이 결정에 일부 클로드 사용자들은 자신들이 “지시, 맥락, 결정”을 제공했고 클로드는 그저 “도구”였을 뿐이라며 반발했다.

월스트리트저널은 2024년 오픈AI가 이전에도 텍스트 워터마크를 개발했지만 공개를 보류했다고 보도했다. 사용자들이 워터마크를 넣지 않는 경쟁사 서비스로 옮겨 갈 수 있다는 우려가 그 이유 중 하나였다.

앤트로픽, 구글, 메타, 마이크로소프트, 오픈AI는 AI 생성 콘텐츠에 관한 EU 실천규범을 따르겠다고 약속한 기업들에 포함된다.

※ 자세한 내용은 원문을 참조해주세요.

※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.