내가 '할랄(Halal) 설계 방식'의 AI 이미지 파이프라인을 구축한 이유

나는 네덜란드의 홀리스틱 건강(holistic health) 플랫폼인 Longevity AI를 운영하고 있습니다. 내가 Stable Diffusion을 블로그 파이프라인에 연결했을 때, 첫 번째 "웰니스(wellness)" 이미지 세트에는 불상, 요가 스튜디오 벽에 걸린 가톨릭 십자가, 그리고 메카를 향해 살라(salah, 이슬람 예배 자세) 자세를 취하고 있는 사람의 이미지가 포함되어 있었습니다. 내 독자층은 무슬림, 기독교인, 힌두교인, 세속주의자 등 매우 다양합니다. 나에게는 필터가 필요했습니다.

그래서 나는 필터를 하나 만들었습니다. 나는 이것을 '할랄(halal) 필터'라고 불렀는데, 할랄이 가장 엄격한 기준이기 때문입니다. 만약 어떤 이미지가 할랄 기준을 통과한다면, 그것은 모든 사람에게 통용될 수 있습니다. 가톨릭 독자, 세속적인 요가 강사, 플랫폼을 사용하는 아이들, 무신론자 인사(HR) 담당자까지 말이죠. 가장 엄격한 필터가 가장 보편적인 필터이기도 합니다.

내가 무엇을 만들었는지, 왜 이슬람교 외부에서도 "할랄"이라는 라벨이 유용한지, 그리고 여러분이 무엇을 적용할 수 있는지에 대해 설명하겠습니다.

문제점: AI 이미지 생성기에는 브랜드 감각이 없다

Stable Diffusion, Flux, DALL-E. 이 모델들은 프롬프트(prompt)에 조금이라도 영적인 뉘앙스가 포함되어 있다면 기본적으로 종교적 이미지를 생성합니다. "명상(meditation)"을 요청하면 불상이 나오고, "차분한 침실(calm bedroom)"을 요청하면 십자가 옆에 놓인 양초가 나오며, "아침 루틴(morning routine)"을 요청하면 기도용 염주가 나옵니다.

AI가 틀린 것은 아닙니다. 이는 명상이 곧 불상이고 평온함이 곧 종교적 도상학(iconography)과 동일시되는 스톡 사진(stock photography)에 편향된 학습 데이터(training data)를 반영하는 것입니다. 이것은 인터넷의 사실일 뿐, 명상 자체에 대한 사실은 아닙니다.

네덜란드의 홀리스틱 건강 플랫폼에게 이것은 브랜드의 악몽입니다:

• 무슬림 독자들은 웰니스 기사에서 불상을 보고 탭을 닫아버립니다.
• 기독교인 독자들은 힌두교 신을 보고 이 플랫폼이 어떤 곳인지 의구심을 갖습니다.
• 세속적인 독자들은 종교적 상징을 보고 사이트가 설교적이라고 생각합니다.
• B2B 번들을 사용하는 학교들은 신의 조각상을 보고 학부모들의 불만을 삽니다.

불상 미학이 기본값인 미국의 웰니스 사이트라면 이 이미지는 괜찮을 수 있습니다. 하지만 종교적 다양성이 존재하고 신뢰 임계치가 높은 네덜란드에서는 괜찮지 않습니다.

할랄 렌즈 (Halal Lens) (무슬림이 아니더라도 중요한 이유)

개념으로서의 할랄 (Halal)은 대부분의 필터보다 더 나아갑니다. 할랄은 다음과 같이 말합니다: 신성을 묘사하지 말 것, 피조물의 숭배를 조장하지 말 것, 기도 의식을 장식으로 사용하지 말 것, 카메라를 위해 옷을 벗지 말 것. 신의 형상에 대한 이슬람의 금기 사항은 엄격한 정숙성 (modesty) 규칙과 결합되어 매우 높은 기준을 형성합니다.

여기에 핵심적인 통찰이 있습니다. 만약 당신의 이미지 파이프라인 (image pipeline)이 할랄을 통과한다면, 다른 모든 종교적 및 세속적 기준도 통과하게 됩니다.

• 가톨릭 부모는 불쾌해하지 않을 것입니다 (다른 신이 없으므로).
• 불교도는 자신의 도상 (iconography)이 잘못 다뤄지는 것을 보지 않을 것입니다.
• 세속적인 사용자는 종교적 상징을 전혀 보지 못할 것입니다.
• 정숙성을 중시하는 브랜드는 노출된 신체를 보지 않을 것입니다.
• 아동 안전 검토자는 플래그 (flag)를 지정해야 할 요소를 발견하지 못할 것입니다.

그 반대는 성립하지 않습니다. 불교 친화적인 이미지는 십자가를 포함하고 있을 수도 있습니다. 세속적으로 깨끗한 이미지는 묵주를 보여줄 수도 있습니다. 할랄은 제한성의 상한선 (upper bound)이며, 바로 이 점 때문에 모든 청중을 위한 훌륭한 브랜드 안전성 (brand-safety) 기본값 (default)이 됩니다.

저는 비무슬림 개발자들이 이 필터를 사용하기 위해 무슬림이 될 필요는 없다고 생각합니다. 대신 이 아이디어를 훔쳐야 한다고 생각합니다. 가장 엄격한 필터가 가장 보편적인 호환성을 의미합니다.

코드 (100줄 미만)

다음은 실제 블랙리스트 (blacklist)입니다 (50개 이상의 키워드, LLM 호출 불필요):

const RELIGIOUS_BLACKLIST = new Set([
  "buddha", "buddhism", "deity", "gods", "god", "worship", "prayer", "praying",
  "temple", "shrine", "sacred", "holy", "altar", "religious", "monk", "nun",
...

이것이 전부입니다. 두 부분으로 구성됩니다: 블랙리스트 세트 (blacklist set), 그리고 플래그가 지정된 모든 용어를 중립적인 단어인 "wellness"로 교체하는 새니타이저 (sanitizer)입니다.

이 새니타이저 (sanitizer)는 모든 이미지 생성 API 호출(Stability AI, Flux, DALL-E, 심지어 Pexels 검색까지) 전에 호출됩니다. 프롬프트가 제 서버를 떠나기 전에 다시 작성되기 때문에, 이미지 API는 부적절한 이미지를 생성할 기회를 전혀 갖지 못합니다.

보편적인 교훈: 브랜드 경계는 하드코딩(Hardcode) 하세요

LLM이 귀하의 브랜드를 알고 있을 것이라고 믿어서는 안 됩니다. Stable Diffusion은 제 타겟 관객이 네덜란드계 무슬림이라는 것을 모릅니다. DALL-E는 제 B2B 고객에 학교가 포함되어 있다는 것을 모릅니다. Flux는 제 CEO가 종교적이라는 사실을 모릅니다.

브랜드 경계는 프롬프트가 아니라 코드에 있어야 합니다.

대부분의 팀이 범하는 실수는 시스템 프롬프트(system prompt)에 "종교적 이미지를 포함하지 마세요"라고 LLM에게 말하는 것입니다. 이는 80%의 확률로 작동합니다. 나머지 20%의 유출이 당신을 트위터(Twitter)에 올라가게 만듭니다. 하드코딩된 블랙리스트(blacklist)와 새니타이저 (sanitizer)를 결합하면 100%가 됩니다. 모든 이미지 프롬프트가 이를 통과합니다. 예외는 없습니다. "AI가 창의력을 발휘했을 뿐이다"라는 변명도 통하지 않습니다.

설령 종교적 이미지에 특별히 신경 쓰지 않더라도, 거의 확실히 다른 무언가에는 신경을 쓰고 있을 것입니다:

• 어린이용 앱: 총기류, 폭력, 로맨틱한 이미지 금지.
• 의료 플랫폼: 맥락을 벗어난 시술 장면 노출 금지.
• B2B SaaS: 정치적 상징, 유명인, 경쟁사 로고 금지.
• 뉴스 발행사: 저작권이 있는 IP 금지.

패턴은 동일합니다. 블랙리스트를 구축하세요. 새니타이저를 구축하세요. LLM이 귀하의 브랜드를 강제할 것이라고 절대 믿지 마세요. LLM은 귀하의 브랜드를 모릅니다.

트레이드오프 (솔직해지기)

언급해야 할 세 가지 트레이드오프 (trade-offs)가 있습니다.

1. 오탐 (False positives). "사원에서의 요가"는 "웰니스에서의 요가"로 새니타이징(sanitized)됩니다. 이상적인 결과는 아닙니다. 이 교체 방식은 완벽한 재작성이 아니라 우아한 성능 저하 (graceful degradation)입니다. 브랜드 안전 필터(brand-safety filter)의 경우, 오탐(false positives)이 미탐(false negatives)보다 비용이 적게 듭니다.

2. 창의적 범위의 축소 (Reduced creative range). 저는 디왈리(Diwali) 테마의 웰니스 게시물을 쉽게 생성할 수 없습니다. 왜냐하면 "diwali"가 블랙리스트(blacklist)에 포함되어 있지는 않지만, 시각적 요소에 신상(deities) 근처의 디야(diyas, 등불)가 포함될 가능성이 높기 때문입니다. 이를 위해 블랙리스트에 추가해야 할 것입니다. 그렇게 되면 블랙리스트는 계속 커집니다.

3. 문화적 사각지대 (Cultural blind spots). 저의 블랙리스트는 서구적-무슬림 관점(Western-Muslim perspective)에서 구축되었습니다. 힌두교 독자는 이것이 불완전하다고 느낄 수 있고, 불교 독자는 이것이 지나치게 열성적이라고 느낄 수 있습니다. 저는 간극을 배울 때마다 이를 업데이트합니다. 이것은 완성된 제품이 아닙니다.

핵점은 이겁니다. 필터는 의도적으로 보수적입니다. 다양한 청중에게 서비스를 제공하는 헬스 플랫폼의 경우, 보수적인 것이 옳습니다.

왜 "할랄(Halal)"이라는 단어를 사용했는가 ("겸손 필터(Modesty Filter)"가 아닌)

저는 이것을 BRAND_SAFETY_BLACKLIST 또는 MODESTY_FILTER라고 부를 수도 있었습니다. 하지만 제가 이를 할랄 필터라고 부른 이유는 다음과 같습니다:

1. 더 정직하기 때문입니다. 이 필터는 이슬람 표준(Islamic standards)을 염두에 두고 구축되었습니다. 일반적인 개념으로 이름을 붙였다면 그 영감을 숨겼을 것입니다.
2. 무슬림 청중에게 신호를 보냅니다. 그들은 무엇을 기대해야 할지 정확히 알게 됩니다.
3. 비무슬림 청중과의 대화를 이끌어냅니다. 서구에서 "할랄"은 함축적인 의미가 큰 단어입니다. 이 단어를 사용하는 것은 "왜 기술 플랫폼에 할랄 필터가 필요한가?"라는 적절한 질문을 유도합니다. 그 답변(브랜드 안전성, 보편적 호환성)이 바로 흥미로운 부분입니다.
4. 경쟁적 해자 (Competitive moat)가 됩니다. 대부분의 플랫폼은 그 단어가 두려워 자신들의 필터를 "할랄"이라고 부르지 않을 것입니다. 그 두려움이 두려워하지 않는 브랜드들을 위한 공간을 만들어냅니다.

만약 귀하의 맥락에서 "할랄"이 너무 자극적이라고 느껴진다면, 가장 엄격한 필터(strictest filter) 또는 보편적 필터(universal filter)라고 부르십시오. 개념은 라벨(label)에 상관하지 않습니다. 중요한 것은 하드코딩된 블랙리스트(hardcoded blacklist)입니다.

다음에 구축할 것

• 문화적 맥락 탐지기 (Cultural-context detector): 할랄 전용 음식 이미지 (돼지고기 제외, 술이 두드러지는 장면 제외).
• 정숙성 필터 (Modesty filter): 에디토리얼 사진 (editorial photography)에서 비키니, 속옷 샷, 과도하게 노출된 신체 제외.
• 민감도 조절 가능 필터 (Sensitivity-tunable filter): 콘텐츠 카테고리별 세 가지 모드 (엄격 / 표준 / 완화).
• Vision-LLM 검증 단계 (Vision-LLM verification pass): Stable Diffusion이 이미지를 반환한 후, 준수 여부를 확인하는 비전 모델 (vision model) 실행.

핵심 통찰을 다시 한번 강조합니다. 당신의 가장 까다로운 고객을 위해 원하는 필터를 구축하십시오. 그 외의 모든 고객은 보너스를 받는 셈입니다.

이 기사는 원래 Longevity AI에 게시되었습니다. 라이브 웰니스 플랫폼과 전체 기술적 맥락을 확인하려면 출처를 방문하십시오.

이 기사는 원래 Longevity AI에 게시되었습니다. 전체 맥락, 참고 문헌 및 토론을 확인하려면 출처를 방문하십시오.