한국 온라인 커뮤니티, AI 검열 도구로 모든 이미지 스캔해야 할 처지

최근 규제 변화(전기통신사업법)로 인해, 대한민국 정부는 인터넷 커뮤니티 및 포럼 운영자들에게 웹사이트에 사용자가 업로드하는 모든 이미지와 영상을 AI로 스캔할 것을 요구하고 있습니다.

이러한 AI 모델을 실행하기 위한 하드웨어는 정부에서 제공되지 않으며, 웹사이트 운영자가 직접 데이터센터급 Nvidia GPU를 구매해야 하므로 소규모 기업과 포럼에 재정적 압박을 가하고 있습니다.

웹사이트들은 바로 다음 달인 7월 1일부터 즉시 이러한 하드웨어 및 소프트웨어 기능을 구현해야 합니다.

다음은 AI 모델에 대한 하드웨어 요구 사항을 명시한 한국 정부에서 제공한 원본 이미지입니다. 또한 nano banana를 사용하여 만든 영어 번역 이미지도 추가했습니다 (이 작업을 위해 AI를 사용하여 죄송합니다…)

관련 기사 (한국어):

한국 정부의 브리핑을 들은 후, 상황이 얼마나 황당한지를 표현한 한국 포럼/뉴스 웹사이트(루리웹) 운영자의 게시글:

이것은 한국의 기준에서조차 정말 디스토피아적으로 느껴집니다.

그리고 이것이 바로 한국이 권위주의 국가인 북한보다 언론 자유 측면에서 아주 조금 더 나은 수준으로만 평가받는 이유입니다.

1 Like

그리고 그들이 대체 무엇을 검열하고 싶어 하는 걸까요? 누드/포르노인가요? 만약 그렇다면, 왜 그렇게 강력한 Nvidia 하드웨어가 필요한가요? AI 없이도 그것들을 걸러내는 것이 그렇게 어렵지는 않을 텐데요?

제 생각에는 무능한 입법자들이 작성했거나, 아니면 작고 자유롭고 개방적인 커뮤니티를 없애는 것이 목적인 누군가가 작성한 것 같습니다. 하지만 아마도 둘 다일 가능성이 높습니다.

1 Like

제가 법에 능숙하지 않아서 틀릴 수도 있지만, 법 자체는 대략 피사체의 동의 없는 불법 촬영물과 아동 성학대물(CSAM)에 대해 규정하고 있습니다.

하지만 실제로는 훨씬 더 심각합니다.

• 한국은 미성년자가 포함된 경우 그림이나 소설 같은 창작물을 아동 성학대물(CSAM)로 분류하도록 추진해 왔습니다. 만약 당신이 17세인 2D 애니메이션 캐릭터를 대상으로 NSFW (Not Safe For Work, 후방주의) 팬아트를 그렸다면? 네, 그것은 바로 CSAM이며, 심문과 투옥을 준비해야 합니다.
• 한국에서 포르노는 기본적으로 불법이지만, AI 모델은 훨씬 더 민감하게 반응하여 일반적인 가벼운 누드조차 차단하는 것으로 보입니다. 이는 법 자체가 새로운 것이 아니라, 이제 인터넷 커뮤니티와 포럼까지 포함하도록 확장되고 있는 것이기 때문에 알려진 사실입니다. 하지만 해당 법은 2021년부터 카카오톡(KakaoTalk)과 같은 메신저 앱에 이미 적용되어 왔으며, AI 모델이 일반적인 수영복 사진, 애니메이션 그림, 밈(meme),