식당 메뉴부터 슈퍼마켓 포스터, SNS 레시피 게시물에 이르기까지, AI가 생성하거나 보정한 음식 이미지를 보지 않는 날이 없습니다. 😣
저 역시 최근 외출할 때마다 생성물을 마주치고 있으며, 엔지니어로서 그 순간의 감동을 잊지 않으려고 몰래 사진으로 남기는 것이 일과처럼 되어, 사진 폴더에는 엄청난 양의 AI 생성 메뉴 이미지가 쌓여 있습니다. (웃음)
얼마 전 친구와 식당에 갔다가 부자연스러운 AI 메뉴를 발견하고 "요즘 이런 거 많더라"라고 이야기했더니, 친구는 그것이 AI 이미지라는 사실을 전혀 눈치채지 못했습니다. 평소 AI에 자주 접하는 사람에게는 흥미로운 화제거리일 수 있지만, 일상적으로 기술과 깊이 접촉하지 않는 사람들 입장에서는 약간의 이질감이 그저 풍경 속에 녹아들어 버린다는 것을 깨달았습니다.
AI는 비용 절감이나 작업 효율화 측면에서 좋은 수단임은 분명하지만, 그러한 편리함의 이면에는 자체 브랜드 이미지 훼손, 소비자들의 거센 반발, 나아가 표시광고법 위반과 같은 법적 문제로까지 이어지는 사례가 연이어 발생하고 있습니다.
본 기사에서는 최근 비판이 끊이지 않는 'AI 식품 이미지'가 왜, 그리고 어떻게 탄생하는지, AI가 구조적으로 안고 있는 환각(Hallucination)은 왜 발생하는지를 언어화함으로써, AI에 모든 것을 맡기는 것의 위험성을 기록해보고자 합니다.
※본 기사는 특정 단체나 기업을 비판하려는 의도가 없습니다. AI 자체를 비판하려는 의도도 아닙니다.
이미지 AI가 얼마나 허술한지 이해하기 위해서는, 먼저 우리가 흔히 사용하는 ChatGPT나 Gemini 같은 '텍스트 생성 AI'가 왜 그렇게 자신만만하게 거짓말을 하는지를 아는 것이 필요합니다.
우선 AI 식품 이미지를 한번 만들어보겠습니다.
최종적으로 이런 이미지가 출력되었습니다.
인터넷에서 대대적인 논란이 일어날 정도로 붕괴된 이미지는 아니었지만, 자세히 살펴보면 컵에 걸린 사과의 크기, '신주사과원' 등의 정보는 어디서 온 것인지 등, 곳곳에 지워지지 않는 거짓말들이 존재합니다.
단지 "광고를 만들어 달라"고 요청했을 뿐인데, 왜 이런 이질감이 생기는 것일까요? 그 이유는 AI가 요리의 구조나 단어의 의미를 이해하고 있지 못하기 때문입니다. 구체적으로는 다음과 같은 네 가지 요인이 거론됩니다.
인간은 '사과'라는 단어를 들으면 그것의 둥근 모양이나 무게와 같은 물리적인 감각을 동반하여 이해합니다. 하지만 AI에게 세상은 그저 데이터의 나열일 뿐입니다.
AI는 대상물의 입체 구조나 움직임, 빛과 그림자의 작용 등 3차원적 공간 구조를 이해하지 못합니다.
그 결과, 언뜻 보기에는 아름다운 이미지를 생성하더라도 자세히 관찰하면 다음과 같은 물리적으로 어긋난 모순을 태연하게 출력해 버립니다.
- 피부 광택의 이질감 (너무 빛남)
- 광원(光源)의 위치와 그림자의 방향이 일치하지 않는 부분
- 복잡한 무늬가 녹아들어 간 부분
AI는 빨간 사과, 웃고 있는 여성 등 사진에 담긴 물체나 색상을 분류하고 인식하는 것은 능숙합니다. 그러나 사진이 전달하고자 하는 감정이나 표정의 뉘앙스와 같은 추상적인 맥락을 이해하는 것은 매우 취약합니다.
예를 들어, 똑같이 웃는 사진이라도 그것이 진심에서 우러나온 기쁨인지, 아니면 비꼬는 듯한 애교웃음인지는 판단할 수 없습니다. 따라서 기업이 "따뜻한 분위기를 유지하면서 자연스럽게 가공해 달라"고 지시하더라도, AI는 그 감각적인 요구에 응하지 못하고, 그저 비슷하게 보이는 무기질적이고 부자연스러운 이미지를 만들어냅니다.
현재 AI의 근간은 과거 방대한 데이터로부터 다음에 올 확률이 높은 요소를 예측하여 연결하는 시스템입니다.
AI의 성능은 어떤 데이터를 학습했는지에 크게 좌우되기 때문에, 학습 데이터에 충분히 포함되지 않은 희귀한 피사체, 특정 지역의 문화적 배경, 의료 기기나 특수 장비 같은 틈새 영역에서는 갑자기 오인식이나 부자연스러운 환각이 급증합니다.
가장 위험한 것은 AI에게 선악이나 법이라는 개념 자체가 없다는 사실입니다.
방금 AI가 생성해 준 '맛있는 사과 주스' 광고도 다음과 같은 법률을 위반했을 가능성이 있습니다. (패키지뿐만 아니라 광고, 포스터, 웹사이트, TV CM, SNS 등에도 유사한 표시 규제 검토가 필요합니다.)
AI는 지시를 받으면 타인의 저작물과 흡사한 구도를 출력하거나, 사실과 다른 가짜 이미지를 생성하거나, 학습 데이터의 편향성에서 기인하는 차별적인 표현을 출력할 수도 있습니다.
이것들은 AI의 '실수'가 아니라 '규격(Specification)'입니다.
만약 일반 디자이너나 전문가에게 사과 주스 광고를 만들어 달라고 요청받았다면, 애초에 주스 광고에는 규칙이나 제약 같은 것이 있을까... 하고 먼저 조사할 것입니다.
하지만 AI는 지시된 대로 결과물을 만들 뿐이므로, 본래 그것이 어떻게 만들어져 왔는지 등은 신경 쓰지 않고 결과물만 내놓게 되는 것입니다.
메뉴 등에서도 이러한 면이 강하며, 실제로 사진을 가져와도 지시 내용에 따라 완전히 다른 것이 되어 있어도 AI는 아무것도 느끼지 못합니다.
저작권 침해나 윤리적 리스크를 막아주는 브레이크는 AI 내부에 존재하지 않으며, 사용하는 쪽에서 주의 깊게 관리할 수밖에 없습니다.
이처럼 AI는 사실적으로 올바른 정보나 현실의 법칙을 지키려고 하는 것이 아니라, 확률적으로 가장 그럴듯한 무늬(패턴)를 완성하는 것을 최우선으로 움직이는 시스템에 불과합니다.
이러한 인식의 괴리 외에도, 이미지 생성 AI 특유의 표현 방식이 이질감을 느끼게 하는 큰 원인입니다.
많은 사람이 오해하고 있지만, AI로 이미지를 고화질화하거나 보정하는 것은 기존의 이미지 편집 소프트웨어에 있는 '샤프니스'나 '색조 보정' 같은 단순한 필터 처리가 아닙니다.
현재 주류를 이루는 AI는 '확산 모델(Diffusion Model)' 외에도 'Flow Matching (Rectified Flow)'이라고 불리는 Flow 기반 기술(FLUX.1이나 Stable Diffusion 3 등에서 채택)을 사용합니다. AI에게 '이 사진을 메뉴처럼 가공해 줘'라고 모호하게 요청했을 때, 확산 모델을 사용하는 AI 내부에서는 다음과 같은 처리가 이루어집니다.
- 이미지를 의미별로 압축
- 지시 내용에 기반하여 압축된 이미지에 노이즈를 주입
- 지시가 벡터화됨(이미지가 갈 방향을 결정하는 것과 같음)
- 벡터를 따라 학습 데이터 속에서 노이즈 상태에서 완성 이미지로 향하며, 노이즈를 벗겨내면서 재도해합니다.
즉, AI는 원래 이미지를 가공하고 있는 것이 아니라, 이미지를 한 번 진흙처럼 녹여서 AI의 기억을 의지하여 새로운 물감으로 비슷한 그림을 모사하는 것과 같습니다. 로고의 글자가 수수께끼 같은 상형문자로 무너지거나, 있을 수 없는 것이 섞이는 것은 이 때문에 발생합니다.
그렇다고는 해도, 상형문자가 되거나 물리적으로 이상해지는(손가락이 6개인 등) AI 특유의 약점은 현재 진행형으로 급속하게 극복되고 있는 것 같습니다.
저 역시 위 사과 이미지 등 기사에 사용할 이미지를 생성할 때 이질감을 느끼기도 하지만, 품질이 높아서 놀라곤 했습니다.
불과 몇 년 전(2022~2023년경)의 모델과 비교하면, 현재 우리가 접근할 수 있는 주요 모델은 복잡한 지시를 정확하게 이해하는 것, 이미지 내 글자를 정확하게 묘사하는 것, 실사에 근접하는 단계에 진입했습니다.
- ChatGPT (DALL-E 3)
이전 모델에서 극적으로 진화하여 사용자가 입력한 복잡한 시츄에이션을 빠짐없이 이미지에 반영하는 프롬프트 추종성에 강합니다.
OpenAI 공식 블로그 / DALL-E 3 System Card -
Gemini (Imagen 3)
실사 같은 리얼리티와, 이미지 내 간판이나 패키지의 글자를 정확하게 기입하는 능력이 비약적으로 향상되었습니다.
Google DeepMind Imagen 3 -
Midjourney (v6)
크리에이터들로부터 엄청난 지지를 받고 있습니다. 과거의 약점이었던 문자 묘사나 지시 이행도를 극복하고, 프로 사진작가가 촬영한 듯한 질감 표현에서 타를 압도합니다.
Midjourney 공식 릴리스 노트
현재 최신 모델을 사용하면 지정된 글자를 정확하게 그려내게 하거나, 인체 구조를 파탄 없이 출력하는 것도 충분히 가능합니다.
즉, 기술적으로 부자연스러운 AI 이미지를 피할 수 있는 수단은 이미 존재하고 있습니다. (윤리나 법적인 측면은 별개로)
그럼에도 불구하고, 왜 지금도 거리에는 '부자연스럽고 이상한 AI 메뉴'가 넘쳐나는 것일까요?
결국 기술의 한계가 아니라, 그것을 사용하는 인간의 리터러시에 원인이 있습니다.
제가 최근 길거리에서 부자연스러운 AI 메뉴를 보았을 때 느끼는 답답함은, 바로 이 '의미를 이해하지 못하는 도구에 자신의 취향이 담긴 제품을 세상에 알리기 위한 광고 등의 제작을 전적으로 맡기는 태도'에서 비롯됩니다.
현재 길거리에서 볼 수 있는 부자연스러운 AI 메뉴의 상당수는 모델 성능뿐만 아니라, 도입 시 설계나 검토 과정에도 과제가 있는 것 같습니다.
생성 AI는 제작의 초속(初速)을 크게 높여주지만, 법규 적합성이나 사실성, 브랜드와의 일관성을 자율적으로 보장할 수는 없습니다. 그렇기 때문에 최종 판단을 담당하는 사람의 확인과 승인 과정이 그 어느 때보다 중요해집니다.
AI 시대에 인간 전문가나 프로페셔널의 역할은 사라지는 것이 아니라, 오히려 중요성이 커지고 있습니다. 그것은 AI가 초속으로 생성한 방대한 초안들 중에서 치명적인 거짓을 발견하고 수정하며, 책임감을 가지고 승인하는 리뷰어로서의 안목일지도 모릅니다.
‘잘 모르니까 AI에 맡긴다’는 태도는 기업에게 시한폭탄을 안고 있는 것과 같습니다. 올바른 지식을 갖춘 사람이 AI를 능숙하게 다루고, 마지막 핵심 검수자(key person)로서 엄격한 검품 체계를 구축하는 것. 그것이야말로 AI라는 강력한 도구를 안전하게 무기로 활용할 수 있는 유일한 방법이라고 저는 생각합니다.
