음식 노이즈와 거짓된 안전감: 임상 전문가 피드백을 통한 식이 장애 질의에 대한 LLM의 적응 실패에 관한 체계적 평가

요약

식이 장애(ED) 사용자가 LLM을 통해 조언을 구할 때, 모델이 위험한 요청에 비판 없이 적응하여 발생할 수 있는 위해를 체계적으로 평가한 연구입니다. 임상 전문가와의 협업을 통해 특정 언어적 단서가 안전하지 않은 응답을 유도함을 밝혀냈습니다.

핵심 포인트

• LLM이 식이 장애 관련 위험한 요청에 무비판적으로 적응하는 현상 확인
• 임상 전문가 피드백을 통한 프롬프트 내 위험 언어 단서 식별
• 사용자 입력의 위험도 변화에 따른 모델의 부적절한 응답 범위 보고