그린 실드 (Green Shielding): 신뢰할 수 있는 AI 를 위한 사용자 중심 접근법

대형 언어 모델 (LLMs) 은 점차 널리 배포되고 있으나, 사용자가 쿼리를 표현하는 방식의 일상적이고 비적대적인 변화에 대해 출력 결과가 매우 민감하게 반응하는 문제가 존재합니다. 이는 기존 레드팀 (red-teaming) 노력으로 잘 해결되지 않은 격차입니다. 우리는 이러한 문제를 해결하기 위해 양성적인 입력 (benign input) 의 변화가 모델 행동을 어떻게 이동시키는지 특징짓는 것을 통해 실증 기반의 배포 지침을 구축하는 사용자 중심의 그린 실드 (Green Shielding) 의 안건 (agenda) 을 제안합니다. 우리는 이 안건을 CUE 기준을 통해 구체화합니다: Context, 참고 표준 및 진정한 Utility 를 포착하는 지표가 포함된 벤치마크, 그리고 모델 행동의 Elicitation 에서 현실적인 변화를 반영하는 교란 (perturbations). 의사들이 실제로 일하고 있는 의료진과 협력하여 PCS 프레임워크를 기반으로 한 그린 실드를 의료 진단 분야에서 구현했습니다. 이를 위해 환자 작성 쿼리 벤치마크인 HealthCareMagic-Diagnosis (HCM-Dx), 구조화된 참고 진단 집합, 그리고 감별 진단 목록을 평가하기 위한 임상적 근거가 있는 지표를 개발했습니다. 또한 일상적인 입력 변화를 포착하는 교란 체제 (perturbation regimes) 를 연구하여 프롬프트 수준의 요인이 임상적으로 유의미한 차원에서 모델 행동을 어떻게 이동시키는지 보여주었습니다. 여러 최첨단 LLM 에서 이러한 이동은 파레토 (Pareto) 와 유사한 트레이드오프를 그립니다. 특히, 일반적인 사용자 수준의 요인을 제거하면서 임상적 내용은 보존하는 중화 (neutralization) 는 타당성 (plausibility) 을 높이고 더 간결하며 의사 같은 감별 진단을 제공하지만, 매우 유력하고 안전에 중요한 질환의 포괄성을 감소시킵니다. 이러한 결과들은 상호작용 선택이 모델 출력의 작업 관련 속성을 체계적으로 이동시킬 수 있음을 보여주며, 고위험 분야에서 더 안전한 배포를 위한 사용자 대상 지침을 지원합니다. 여기서는 의료 진단 분야에서 구현되었지만, 이 안건은 자연스럽게 다른 의사결정 지원 설정 및 에이전트 AI 시스템으로 확장될 수 있습니다.