비서구적 맥락에서의 청소년을 위한 문화적 감수성 있는 생성형 AI 위험: 청소년, 부모 및 교사의 관점
요약
본 연구는 서구 중심의 관점에서 간과되어 온 비서구적 맥락, 특히 사우디아라비아에서 청소년을 위한 생성형 AI 사용의 위험성을 탐구했습니다. 혼합 방법론(Reddit/X 분석 및 인터뷰)을 통해 7~17세 청소년, 부모, 교사 31명을 대상으로 데이터를 수집하고 분석했습니다. 연구 결과, 비서구적 맥락에서의 프라이버시와 안전성은 공동체 구조와 규범에 의해 형성되며, 특히 정서적 지원을 위해 개인 및 가족 정보를 공개할 때 문화적으로 뿌리박힌 기대(겸손, 명예 등)와 충돌하는 위험이 발견되었습니다. 따라서 문화적 규범과 가치에 맞는 포용적이고 상황 민감한 부모 제어 설계가 필요함을 시사합니다.
핵심 포인트
- 생성형 AI의 안전성 연구는 서구 중심적 관점에서 벗어나 비서구적 맥락을 고려해야 한다.
- 비서구 문화권에서 프라이버시와 안전성은 개인적인 차원을 넘어 공동체 구조 및 규범에 의해 강력하게 형성된다.
- 청소년이 AI에게 정서적 지원을 구할 때, 겸손이나 명예 같은 문화적으로 뿌리박힌 기대가 충돌하는 위험이 존재한다.
- 계정 공유와 같은 사회경제적 요인은 생성형 AI 사용의 위험성을 더욱 악화시킨다.
- 문화적 규범에 부합하는 포용적이고 상황 민감한 부모 제어(parental controls) 설계가 필요하다.
생성형 AI 도구는 널리 사용되고 있으며 새로운 프라이버시와 안전 문제를 도입했습니다. 이전 연구는 서구적 맥락에서 청소년의 생성형 AI 안전성을 탐구해 왔지만, 사우디아라비아와 같은 국가에서 청소년의 디지털 경험을 강력하게 형성하는 기술 사용의 문화적, 종교적 및 사회적 차원을 종종 간과합니다. 이 격차를 해소하기 위해 본 연구는 비서구적 렌즈를 통해 7 세에서 17 세 사이의 어린이, 부모 및 교사의 생성형 AI 도구와의 상호작용과 위험 인식을 탐구합니다. 혼합 방법론을 통해 우리는 736 개의 Reddit 게시글과 1,262 개의 X(Twitter) 게시글을 분석하고 사우디아라비아의 31 명의 참여자 (청소년 8 명, 부모 13 명, 교사 10 명) 와 인터뷰를 진행했습니다. 우리의 결과는 비서구적 맥락에서 생성형 AI 의 상황 의존적이고 관계적인 프라이버시와 안전성을 강조하며, 이는 종종 공동체 구조와 규정된 규범에 의해 형성됩니다. 우리는 청소년이 개인 및 가족 정보를 공개할 때 발견되는 상당한 위험을 찾았으며, 이는 특히 청소년이 생성형 AI 에서 정서적 지원을 구할 때 겸손, 프라이버시 및 명예에 대한 문화적으로 뿌리박힌 기대와 충돌합니다. 이러한 위험은 비용 절감 관행으로 인해 가족 내나 심지어 낯선 사람들 사이에서 공유된 생성형 AI 계정 (예: ChatGPT) 사용과 같은 사회경제적 요인에 의해 더욱 악화됩니다. 우리는 청소년이 생성형 AI 를 어떻게 사용해야 하는지에 대한 부모와 교사의 기대를 반영한 설계 시사점을 제공합니다. 이 작업은 문화적 규범과 가치에 부합하는 포용적이고 상황 민감한 parental controls(부모 제어) 의 기초를 마련합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기