Introducing Trusted Contact in ChatGPT

사람들은 ChatGPT 를 학습하고 아이디어를 탐구하며 문제를 해결하고 개인적인 질문에 대해 반성하는 데 사용합니다. 때로는 이러한 대화는 누군가가 고통을 겪거나 지원을 구하는 순간을 포함할 수 있습니다. 우리의 목표는 민감한 대화를 신중하게 응답하고 필요할 때 사람들이 실제 세계의 도움을 연결하도록 장려하는 시스템을 설계하는 것입니다.

오늘 우리는 ChatGPT 의 선택적 안전 기능인 Trusted Contact 를 시작하여 배포합니다. Trusted Contact 는 자동화된 시스템과 훈련된 리뷰어가 등록한 사람이 스스로를 해로움을 표시하는 방식으로 자신을 해를 끼칠 수 있다고 감지했을 때 알림을 받을 수 있는 신뢰할 수 있는 사람, 예를 들어 친구, 가족 구성원 또는 돌봄 제공자를 지명할 수 있게 합니다. Trusted Contact 는 ChatGPT 에 이미 제공되는 localized helplines alongside 다른 층위의 지원을 제공하는 것을 목표로 하며, 사용자가 위기 상황에 있을 때 신뢰할 수 있는 사람과 연결하도록 도와줍니다.

Trusted Contact 는 부모 통제 안전 알림 (부모 또는 보호자가 링크된 청소년 계정에 급성 고통의 징후가 있을 때 경고받을 수 있음) 을 기반으로 합니다. 이제 우리는 안전 경고 옵션을 확장하여 18 세 이상의 누구나 신뢰할 수 있는 사람을 Trusted Contact 로 추가할 수 있도록 하고 있습니다.

Expert guidance 는 사회적 연결이 자살 위험을 줄이는 데 가장 중요한 보호 요인 중 하나임을 식별합니다. Trusted Contact 는 사용자가 이미 신뢰하는 사람과 연결하도록 장려하기 위해 설계되었습니다. 이는 전문적인 치료나 위기 서비스를 대체하지 않으며, 위기 상황에 있는 사람을 지원하는 여러 층위의 안전 장치 중 하나입니다. ChatGPT 는 적절할 때 사용자에게 위기 핫라인이나 응급 서비스에 연락하라고 계속 장려합니다.

"심리학 과학은 일관되게 사회적 연결이 감정적 고통 기간 동안 강력한 보호 요인임을 보여줍니다. 사람들이 신뢰할 수 있는 사람을 미리 식별하도록 도와주면서 그들의 선택과 자율성을 보존하는 것은 가장 중요한 때에 실제 세계의 지원을 연락하는 데 더 쉽게 만들 수 있습니다."

• 사용자는 ChatGPT 설정에서 성인 (18 세 이상 또는 한국에서는 19 세 이상) 한 명을 신뢰할 수 있는 연락처로 추가할 수 있습니다.
• 신뢰할 수 있는 연락처는 자신의 역할에 대한 초대장을 받으며, 기능을 활성화하려면 이 초대장을 1 주일 이내에 받아야 합니다. 신뢰할 수 있는 연락처가 거절하면 사용자는 다른 성인을 추가할 수 있습니다.
• 자동 감시 시스템이 사용자가 자해에 대해 심각한 안전 문제를 나타내는 방식으로 대화하고 있음을 감지한 경우, ChatGPT 는 사용자에게 우리가 신뢰할 수 있는 연락처를 통보할 수 있다고 알려주며, 제안된 대화 시작 문구를 통해 신뢰할 수 있는 연락처에게 연락하라고 권장합니다.
• 이어서, 특별히 훈련된 소수의 사람들이 상황을 검토합니다. 만약 심사관이 대화에 심각한 안전 문제를 나타낼 수 있다고 판단하면, ChatGPT 는 이메일, 문자 메시지 또는 앱 내 알림을 통해 신뢰할 수 있는 연락처에게 짧은 통보 (ChatGPT 계정이 있는 경우) 를 보냅니다.
• 이 통보는 의도적으로 제한적입니다. 자해가 잠재적으로 우려되는 방식으로 언급되었음을 공유하고, 신뢰할 수 있는 연락처에게 확인하라고 권장합니다. 사용자의 프라이버시를 보호하기 위해 채팅 세부 사항이나 녹음본은 포함되지 않습니다. 또한 전문가의 안내 링크 (guidance(opens in a new window)) 도 포함되어 있습니다.
• 사용자가 언제든지 설정에서 신뢰할 수 있는 연락처를 제거하거나 편집할 수 있으며, 신뢰할 수 있는 연락처는 언제든지 우리의 help center.(opens in a new window) 에서 자신을 제거할 수 있습니다.

이러한 심각한 안전 상황은 드물지만 발생하면, 우리는 신속한 검토와 대응을 지원하도록 시스템을 설계했습니다. 시스템은 완벽하지 않으며, 신뢰할 수 있는 연락처에 대한 통보는 항상 누군가 경험하는 것과 정확히 일치하지 않을 수 있지만, 모든 통보는 발송 전에 훈련된 인간 검토를 거치며, 우리는 이러한 안전 통보를 1 시간 이내로 검토하려고 노력합니다.

우리는 정신 건강 및 자살 예방 전문가인 임상 의사, 연구원 및 기관의 지침을 받아 Trusted Contact 를 개발했습니다. 이 작업은 Global Physicians Network(260 명의 라이선스 의사가 60 개 국가에 걸쳐 있는 네트워크) 와 우리의 Expert Council on Well-Being and AI 에 의해 안내되었습니다. 또한 우리는 American Psychological Association.(opens in a new window) 과 같은 외부 기관과도 긴밀히 협력했습니다.

"AI 의 가장 큰 약속 중 하나는 인간 간 진정한 연결과 심리적 안전을 어떻게 조성할 수 있는지에 관한 것입니다. ChatGPT 의 신뢰할 수 있는 연락처 기능은 특히 취약한 순간에 인간 역량 강화의 한 걸음으로 제공하므로, 이에 고무됩니다."

Trusted Contact 를 넘어, ChatGPT 는 민감한 대화를 모든 단계에서 안내하는 데 도움이 되는 안전 장치도 갖추고 있습니다. 우리는 대화에서 표현된 위험 수준에 따라 시스템이 어떻게 반응하는지 계속 개선하고 있습니다:

실제 세계의 도움을 지원: 민감한 순간에 ChatGPT는 사람들이 응급 서비스, 위기 상담 전화, 정신 건강 전문가, 또는 주변 신뢰할 수 있는 사람들과 연락하도록 독려할 수 있습니다.

주의 깊게 응답하기: 우리는__170 명 이상의 정신 건강 전문가__와 협력하여 ChatGPT의 잠재적 고통 징후를 감지하고 대응하며, 대화를 완화하고, 필요할 때 사람들을 실제 세계의 지원으로 안내하는 능력을 향상시켰습니다.

사람들이 자신의 시간을 통제하도록 돕기: 일부 상황에서는 ChatGPT가 장시간 사용 후 휴식을 취하거나 물러나도록 제안하여 건강한 기술 습관을 촉진할 수 있습니다.

해로운 요청 거절하기: ChatGPT는 자살 또는 자해에 대한 지침을 제공하는 것을 거부하도록 훈련되었습니다. 사용자가 이러한 정보를 요청하면 시스템은 요청을 거부하고 대신 안전한 응답으로 재경로하며, 지역화된 위기 리소스를 표시합니다.

Trusted Contact 는 OpenAI 의 어려운 순간에__사람들을 돕기 위해__AI 시스템을 구축하는 더 넓은 노력의 일부입니다. 우리는 정신 건강 전문가, 연구자, 정책 입안자와 계속 협력하여 사람들이 고통을 경험할 때 AI 시스템이 어떻게 응답하는지 개선하겠습니다. 우리의 목표는 AI 시스템이 고립되어 존재하지 않도록 하는 것입니다. 대신 그들은 가장 중요한 실제 세계의 돌봄, 관계, 리소스에 사람들을 연결하도록 돕어야 합니다.