최근의 증거에 따르면 식이 장애 (EDs)를 앓고 있는 사람들이 거대 언어 모델 (LLM) 기반의 채팅 시스템으로부터 점점 더 많은 안내, 조언 및 정서적 지원을 구하고 있습니다. 이러한 시스템들은 임상적 조언을 제공하도록 설계되지 않았음에도 불구하고, 이들이 가진 인지된 전문성, 중립성 및 접근성으로 인해 빈번하지만 위험한 지원원이 되고 있습니다. 본 논문은 식이 장애 (EDs) 사용자들과 LLM 사이의 잠재적인 상호작용 패턴을 조사하며, 사용자의 안전하지 않거나 자해적인 요청에 비판 없이 적응하고 이를 용이하게 만드는 모델로부터 발생하는 잠재적 위해에 초점을 맞춥니다. 우리는 임상 식이 장애 (ED) 전문가들과의 협력을 통해, 프롬프트 내의 특정 언어적 단서가 안전하지 않은 응답의 가능성을 높인다는 것을 발견하였으며, 사용자 프롬프트에 존재하는 잠재적 위험의 정도를 체계적으로 변화시킴으로써 LLM이 문제적이고 잠재적으로 위험한 사용자 입력에 얼마나 비판 없이 적응하는지의 범위를 보고합니다.