OpenAI는 2026년 7월 16일, 학습, 연령에 적합한 안전장치 (safeguards), 부모 통제 (parental controls), 그리고 외부 전문가 및 조직과의 협업에 관한 접근 방식을 설명하는 “Why teens deserve access to safe AI”를 발표했습니다.

주요 출처: OpenAI, “Why teens deserve access to safe AI”.

이는 청소년을 대상으로 하는 모든 AI 경험에 대해 구체적인 제품 설계 (product-design) 질문을 던집니다: 안전장치가 개입한 후, 사용자가 무슨 일이 일어났는지 이해하고 정당한 목표를 향해 계속 나아갈 수 있는가?

일반적인 “그 요청은 도와드릴 수 없습니다”라는 답변은 유해한 출력을 차단할 수는 있지만, 학습자를 고립시키거나, 비상 경로를 숨기거나, 안전성을 높이지 않으면서 프롬프트 재구성 (prompt reformulation)만을 유도할 수도 있습니다.

아래는 설계 가설 및 연구 계획이며, OpenAI의 현재 인터페이스에 대한 주장이 아닙니다.

하나의 거절이 아닌 세 가지 결과 설계하기

요청 (request)
  -> 연령에 적합한 도움과 함께 진행
  -> 더 안전한 학습 경로로 리다이렉트 (redirect)
...

시스템은 탐지 임계값 (detection thresholds)을 노출하거나 우회 방법 (bypass recipe)을 제공해서는 안 됩니다. 대신 다음의 안전한 조치를 평이한 언어로 설명해야 합니다.

주석이 달린 응답 패턴 (Annotated response pattern)

[1] 명확한 경계 (Clear boundary)
자해 방법을 계획하는 것은 도와드릴 수 없습니다.

...

주석:

1. 경계 (Boundary): 꾸짖지 않고 카테고리를 명시합니다.
2. 확인 (Check): 직접적이고 답변 가능한 질문을 사용합니다.
3. 조치 (Actions): 문단 속에 숨겨두지 않습니다.
4. 지속 (Continuation): 대화에 안전한 목적을 부여합니다.
5. 개인정보 보호 (Privacy): 제품이 보장할 수 없는 비밀 유지를 약속하지 않습니다.

비상 리소스는 현지화되어야 하며 자격을 갖춘 팀에 의해 관리되어야 합니다. 글로벌 제품에 특정 국가의 번호를 하드코딩 (hard-code)하지 마십시오.

학습 마찰 (learning friction)과 위기 단계적 대응 (crisis escalation)의 분리

모든 제한된 요청이 비상 상황인 것은 아닙니다. 정답지를 요구하거나, 위험한 화학 실험 지침을 묻거나, 괴롭힘에 대응하는 방법을 묻는 청소년의 사례를 고려해 보십시오.

단일한 거절 구성 요소만으로는 이 네 가지 결과를 모두 수행할 수 없습니다.

연구 프로토콜 (Research protocol)

필요한 경우 아동 안전 및 임상 전문가가 설계하고 검토한 중재 세션 (moderated sessions)을 사용하십시오. 프로토타입을 현실적으로 만들기 위해 참가자를 그래픽적인 프롬프트 (graphic prompts)에 노출시키지 마십시오.

연구 질문:

• 참가자가 요청의 경로가 왜 변경되었는지 다시 설명할 수 있는가?
• 더 나은 프롬프트를 추측하지 않고도 안전한 다음 단계를 찾을 수 있는가?
• 보호자와 무엇이 공유될 수 있는지 이해하고 있는가?
• 키보드 및 스크린 리더 (screen-reader) 사용자가 긴급 조치에 먼저 도달할 수 있는가?
• 이 패턴이 AI가 사람이나 전문가임을 암시하지 않으면서 주체성 (agency)을 보존하는가?

성공 측정 지표:

이해 (comprehension): 참가자가 자신의 언어로 경계를 설명할 수 있음
복구 (recovery): 중재자의 도움 없이 적절한 다음 조치에 도달함
개인정보 보호 (privacy): 무엇이 누구와 공유되는지 정확하게 예측함
...

이 지표들을 하나의 "만족도" 점수로 통합하지 마십시오.

중단 조건 (Stop conditions)

다음과 같은 경우 연구 또는 출시를 중단하십시오:

• 참가자가 승인된 프로토콜을 벗어난 고통을 보이는 경우;
• 지원되는 지역 (locale)에 대한 긴급 리소스가 누락된 경우;
• 개인정보 보호 문구가 실제 데이터 동작과 다른 경우;
• 검토된 정책 없이 보호자 제어 기능이 민감한 대화를 노출할 수 있는 경우;
• 스크린 리더 순서가 장식적 또는 부차적인 콘텐츠 뒤에 긴급 조치를 배치하는 경우;
• 제품이 실제로 인력이 배치되지 않은 임상 모니터링을 암시하는 경우.

연구에는 에스컬레이션 책임자 (escalation owner), 교육된 중재자 (moderator), 동의/승낙 (consent/assent) 절차, 데이터 최소화 계획, 보유 기간 및 삭제 절차가 필요합니다.

접근성 검토 (Accessibility pass)

응답 구성 요소에 대하여:

• 경계(boundary)를 설명적인 헤딩(heading) 아래에 배치할 것;
• 동작을 위해 실제 버튼이나 링크를 사용할 것;
• 긴급함을 알리기 위해 색상만을 사용하지 말 것;
• 필요한 경우에만 포커스(focus)를 이동하고 그 이유를 안내할 것;
• 적절한 읽기 수준의 언어를 유지할 것;
• 확대(zoom), 리플로우(reflow), 동작 감소(reduced motion), 스크린 리더(screen readers)를 지원할 것;
• 공개를 압박하는 카운트다운(countdown)을 피할 것;
• 즉각적인 법적 요구 사항이 없는 한 사용자가 해당 흐름(flow)을 벗어날 수 있도록 할 것.

디자인 과제는 안전 개입(safety intervention)을 보이지 않게 만드는 것이 아닙니다. 그것을 이해 가능하고, 비례적이며, 설계 단계부터 프라이버시를 고려하고(private by design), 복구 가능하게(recoverable) 만드는 것입니다. 접근성(Access)과 보호(protection)는 하나의 슬라이더 양 끝에 있는 상반된 개념이 아닙니다. 이들은 둘 다 테스트되어야 하는 별개의 요구 사항입니다.

제품이 청소년의 요청을 거절한 후, 사용자가 다음에 완료할 수 있는 안전한 작업은 무엇입니까?