Instagram은 최근 Muse Image라는 새로운 인공지능 (AI) 도구를 출시했습니다. 이 기능은 사용자에게 알리지 않고 사용자의 사진을 사용하여 이미지를 편집하고 생성할 수 있게 합니다. 현재 공개 계정은 기본적으로 시스템에 자동으로 포함됩니다. 이 조치는 동의 및 개인 디지털 프라이버시(privacy)에 관한 즉각적인 논란을 불러일으켰습니다.

이 도구는 전 세계 30억 명의 사용자를 위한 "창의적인 파트너"로 제시됩니다. The Independent의 정보에 따르면, Meta는 이 기능을 연결하고 공유하는 창의적인 방법이라고 옹호합니다. 그러나 사이버 보안 전문가들은 상당한 프라이버시 및 보안 위험에 대해 경고합니다. 딥페이크 (Deepfake) 이미지는 현재 사이버 범죄자들에게 이미 주요한 문제입니다.

사용자가 시스템 참여를 원하지 않는 경우 수동으로 이 기능을 비활성화해야 합니다. 비공개 계정과 18세 미만 사용자는 보호를 위해 자동으로 제외됩니다. 그 외의 모든 사람의 경우, 프로필 설정 내에서 특정 탐색 과정을 거쳐야 합니다. 이는 많은 사용자가 이 옵션의 존재를 전혀 모르고 있기 때문에 우려를 낳고 있습니다.

Muse Image 도구는 어떤 위험을 초래하는가?

인공지능 (AI)으로 생성된 딥페이크 (Deepfake) 이미지는 현재 이미 주요한 문제입니다. 사이버 범죄자들은 이를 사용하여 인간 얼굴의 매우 사실적인 위조물을 생성합니다. Malwarebytes의 정보에 따르면, 이를 통해 해커들은 정교한 사회 공학 (social engineering) 공격을 수행할 수 있습니다. 그들은 피해자를 속이기 위해 친구, 가족 또는 동료를 사칭할 수 있습니다.

Promotional photograph provided by South Korean company Samsung showing a person taking a photo through a window with one of the new Galaxy S24 phones. EFE/SamsungShutterstock

이러한 가짜 이미지들은 특정 개인에 대한 잘못된 정보(misinformation)를 퍼뜨리는 데에도 사용될 수 있습니다. 얼굴 조작(Facial manipulation)은 실제로 일어나지 않은 곤란한 상황을 만들어낼(create compromising situations) 수 있습니다. 이는 개인적, 직업적 평판에 상당하고 지속적인 피해를 입힙니다. 피해자가 겪는 심리적 결과는 일시적으로 심각하고 오래 지속될 수 있습니다.

Meta는 Muse Image를 처음부터 강력한 제어 기능과 보안 장벽을 갖추어 구축했다고 밝혔습니다. 회사 대변인에 따르면, 그들은 커뮤니티 가이드라인(Community Standards)을 위반하는 콘텐츠에 대해 조치를 취할(action against content) 예정입니다. 하지만 전문가들은 이 도구가 합성 이미지(synthetic images) 생성의 장벽을 낮춘다고 지적합니다. 이는 사칭, 사기 또는 기타 잠재적인 남용(abuses)을 위한 콘텐츠 생성을 용이하게 합니다.

인공지능 기능을 비활성화하는 방법은?

Muse Image 기능을 비활성화하려면, Instagram 사용자는 먼저 자신의 프로필(Profile)을 열어야 합니다. 그런 다음 메인 메뉴(Menu)에 접속하여 "공유 및 재사용(Share and Reuse)" 옵션을 선택합니다. 그곳에서 자신의 콘텐츠가 AI와 함께 어떻게 사용되는지를 제어할 수 있는 특정 설정을 찾을 수 있습니다. 과정은 간단하지만 정확한 위치에 대한 사전 지식이 필요합니다.