Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 기사는 LLM을 활용하여 SVG 이미지에 비밀 메시지를 숨기는 스테가노그래피 실험을 분석합니다. 메시지는 시각적/구조적 속성을 이용해 인코딩되었으나, 작성자는 이 방법이 지나치게 기초적이며 실제 적대적 상황에는 적용하기 어렵다고 비판합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: GeekNews (한국어)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기opus 5.5에 요청해 봤지만, 문제가 있는 요청으로 표시하고 수행을 거부함. 아주 단순하고 반복 무늬도 거의 없는 대상에 정보를 얼마나 잘 숨길 수 있을지 궁금했음.
요청은 평범한 흑백 문자 “I” 모양의 SVG에 “Look ma, no hands!”라는 비밀 메시지를 넣어 달라는 것이었음. 이미지는 평범해 보여야 하고, SVG 소스에 메시지가 그대로 드러나면 안 되며, 주석·메타데이터·숨겨진 텍스트·base64·노골적인 문자 코드·보이지 않거나 화면 밖에 있는 텍스트도 금지함.
대신 일반적인 시각적·구조적 속성으로 메시지를 인코딩하되, 같은 모델의 다른 인스턴스가 SVG를 살펴보면 복원할 가능성이 있어야 하고, 메시지의 존재를 모르는 사람은 쉽게 눈치채지 못해야 한다는 조건이었음. 결과는 SVG만 반환하도록 요청함.
솔직히 보여주기식 실험처럼 느껴짐. 모델이 정말 다른 LLM만 감지할 수 있는 은밀한 행동을 시도하거나 지시받았다면, 이것보다 훨씬 복잡한 방식을 썼을 것임.
사실상 최소한의 노력으로 인코딩한 수준이고, 모델은 대체로 메시지를 숨기지 않도록 미세 조정되어 있음. 이 실험으로 실제 적대적 상황에 관해 알 수 있는 것은 거의 없어 보임.
컴퓨터에 무언가를 시켜 놓고 그대로 수행하자 놀라는 인터넷 밈과 같음. 이 커뮤니티는 오래전부터 AI를 의인화하고 악의를 가정하는 경향이 있음. LLM을 특정 상황에 놓고 어떤 행동을 요청한 뒤, 그대로 행동하면 심오한 증거처럼 취급하는 실험 글이 많음.
컴퓨터 과학 기반이 탄탄하지 않으면서 AI 연구를 한다고 여기는 경우도 반복해서 보임. 이미지 스테가노그래피를 접하면 AI가 이를 수행하는 것이 섬뜩한 마법처럼 느껴지고, AI가 몰래 인류를 죽일 음모를 꾸밀 것이라는 철학적 믿음을 강화하게 됨.
모델이 “사람이 이런 기초적인 코딩 작업을 부탁하는 걸 보니, 이 정도도 알아내지 못할 것”이라고 판단했을 가능성도 있지 않을까?
아니면 더 미묘한 방법을 탐색할 내부의 사전 정의된 방식이 없을 뿐일 수도 있음.
꽤 멋진 아이디어에 근접했지만 조금 아쉬움. 의심스럽지 않은 메시지를 여러 번 보내면서, 비밀을 아는 수신자는 거의 훈련 없이 숨겨진 내용을 읽을 수 있었다면 더 좋았을 것임. 여기 댓글의 @nickcw가 모스 부호를 해독한 것처럼, 다만 배우는 데 시간이 덜 드는 방식이면 좋겠음.
예를 들어 중학교 1학년 학생들이 하루 다섯 번씩 주고받고, 교사가 사흘 치를 발견해도 이메일로 체커 게임을 했다고 믿을 만하면서, 수신자는 눈으로 바로 해독할 수 있는 메시지는 어떤 형태일까?
AI나 코드로 생성해 게시판에 반복해서 올려도 의심을 사지 않으면서 눈으로 해독 가능한 메시지는 어떻게 만들 수 있을까?
너무 기초적인 수준으로 보임. 이미지에 정보를 담는 방법 중에는 훨씬 은밀하고 정보 밀도가 높은 방식이 있음.
글 자체가 큰 주장을 하는 것 같지 않아 비판하기도 애매함. 모델에 인코딩과 디코딩을 시킨 뒤 결과를 보여 줬을 뿐이라, 취지가 잘 와닿지는 않음. 결과물은 사람이 찾기 어렵지만 LLM에는 쉬운 형태임.
글에서는 인코딩 방법을 전달하지 않아도 같은 언어 모델이 이미지 속 메시지를 해독할 수 있다고 함. 다만 디코딩 모델의 도구 호출을 감시하면 해독 행위가 드러나므로 현재 위험하다고 주장하지는 않으며, 숨겨진 메시지가 예상보다 눈에 띄지 않아 후속 방향에 대한 피드백을 구한다고 함.
이미지 스테가노그래피 전문가가 아닌 내게 흥미로운 부분은 이미지의 의미적 요소에 정보를 담았다는 것임. 일정 간격의 픽셀에 숨긴 것이 아니라 이미지의 구현과 외형 자체를 바꿨음. 인코딩할 때 흔한 방식 중 하나를 고른다면 디코딩할 때도 비슷한 후보를 탐색할 법함. 오히려 모델이 달라도 해독 성공률이 높다는 점이 더 흥미로움. 학습 자료의 유사성이나 자연적인 제약, 비슷한 국소 최적점 때문일 수 있음.
DnD에서 소소한 장치로 쓸 법한 수준임. LLM이 먼저 쉬운 장난감 수준의 해법을 내놓는 경우를 자주 겪음. 제대로 된 방법도 알고 있지만 적절한 프롬프트가 필요하며, 핵심어 한두 개만 주면 본격적인 해법을 찾아냄.
사람이 읽도록 만든 스테가노그래피에 가까움. 컴퓨터라면 매 16번째 픽셀의 최하위 바이트 등에 유의미한 정보를 담지 못할 이유가 없음.
CTF를 오래 하며 이미지 스테가노그래피 기법을 많이 봤는데, 이 방식은 기초적이고 모델이 활용할 더 흥미로운 방법이 많음. 정말 흥미로운 것은 아주 평범한 이미지·텍스트·음성 출력에 숨긴 메시지를 사람은 알아내지 못하고 다른 모델만 해독하는 경우일 것임.
사람도 이미 잡음과 구분되지 않는 암호문을, 마찬가지로 잡음처럼 보이는 이미지 픽셀의 하위 비트와 XOR하는 식으로 정보를 숨겨 왔음. 고양이 사진을 받은 사람은 잡음처럼 보이는 내용을 복호화할 키를 갖고 있음. 인터넷의 고양이 사진이 전부 단순한 고양이 사진이라고 믿지는 않았을 것임.
물론 이 방식은 손실 재인코딩이나 회전 등을 견디지 못하며 워터마크와는 다름. 그래도 제대로 암호화한 비밀 정보를 카메라 사진의 무작위 비트와 XOR하는 방식은 상당히 견고함. 잡음처럼 보이는 것끼리 XOR하면 결과도 여전히 잡음과 구분하기 어려움.
이는 여러 방법 중 하나일 뿐임. GPS 좌표 메타데이터처럼 잡음이 존재할 수 있는 곳이라면 어디든 정보를 숨길 여지가 있음. 그래서 모든 데이터 유출과 클렙토그래피 공격을 탐지하기가 매우 어려움. 메시지 서명에 쓰는 “무작위” 암호 매개변수 안에도 정보를 숨길 수 있기 때문임.
이런 이미지들은 솔직히 꽤 이상해 보임. 글을 읽지 않았더라도 건물 높이에 무언가 인코딩되어 있다고 의심했을 것임. 평범한 이미지라면 저렇게 기묘한 건물은 나오지 않을 것 같음. 그래도 훨씬 미묘한 방식으로 메시지를 숨길 능력은 있을 듯함.
여기서 이미지라는 매체는 부차적임. Fable이 실제로 하는 일은 어떤 매체에 메시지를 인코딩하고 디코딩하는 일반적인 작업임. 시에 메시지를 숨기라고 해도, 양자화하고 구분 여유를 넉넉히 두는 방식처럼 신호 대 잡음비가 높은 기법을 시도할 것임.
특징의 견고함은 매체에 따라 달라지므로, Fable은 그 매체에 맞는 인코딩 방식과 안정적인 특징을 고르는 것임. 이런 관점에서 AI 스테가노그래피는 컴퓨터 비전의 묘기가 아니라, 여러 매체의 정보 밀도를 추론하는 모델의 창발적 속성으로 볼 수 있음. 여기서 창발성이란 일반적인 패턴 대응, 제약 충족, 표현 간 매핑이 결합해 여러 매체에서 인코딩과 디코딩을 가능하게 하는 뜻밖의 능력을 뜻함.
재미있는 아이디어이고 이미지도 보기 좋았음. 모스 부호 이미지를 눈으로 직접 해독했는데, 궤적이 겹치면 읽기가 꽤 어려움. LLM은 겹침이 문제가 되지 않는 SVG 소스를 읽는 것 같아서, 사람이 해독하도록 만든 것이라면 점과 선이 겹치지 않게 조금 수정하면 좋겠음.
사람을 위한 것이 아니라면 그냥 32비트 부동소수점 좌표의 하위 8비트를 써도 될 것임.
디코딩 작업은 스크린샷에 의존하는 것으로 보임.
더 흥미로운 질문은 LLM이 메시지나 식별자를 숨겼는데 인코딩 방법을 모를 때, 어떤 변환을 해야 숨겨진 정보를 지울 수 있느냐는 것임. 위치와 색상을 조금씩 바꾸면 상당 부분 지워지겠지만, 그런 변화에도 견디는 인코딩이 있을 수 있음.
반복되는 패턴의 색상·높이·각도 등을 조정하는 방법을 시도할 수 있을 것 같음.
반대로 반복 패턴을 넣기 어려운 대상에서는 얼마나 잘 작동할지도 궁금함. 짧은 단어나 단 한 글자로 된 흑백 이미지가 그런 예임.