빠르게 생각하고 똑똑하게 말하기: 구조화된 건강 텍스트 생성을 위한 결정론적 계산과 신경망 계산의 분할

대규모 언어 모델 (LLMs)은 웨어러블 시계열 (time series), 바이오마커 (biomarkers), 활력 징후 (vitals), 케어 관리 로그 (care-management logs)와 같은 구조화된 기록으로부터 건강 관련 텍스트를 생성하는 데 점점 더 많이 사용되고 있습니다. 반복되는 건강 출력물의 경우, 유창함(fluency)만으로는 충분하지 않습니다. 시스템은 소스 데이터에 충실해야 하며, 설명적 주장을 가용한 증거에 근거(grounding)시켜야 하고, 명시된 정책을 따라야 하며, 기계 판독 가능한 출력을 생성하고, 반복 사용이 가능할 만큼 충분히 저렴하게 실행되어야 합니다. 우리는 구조화된 건강 생성에서의 어떤 책임들이 런타임 LLM 프롬프팅 (runtime LLM prompting) 대신 결정론적 계산 (deterministic computation)이어야 하는지 질문합니다. 우리는 'Think Fast, Talk Smart'를 소개하는데, 이는 결정론적 코드 (deterministic code)가 하나의 제한된 LLM 작성자 호출 (LLM writer call) 이전에 반복적인 분석을 수행하는 수면-건강 통찰력 파이프라인 (sleep-health insight pipeline)입니다. 280회의 사용자-밤 (user-nights) 및 6개의 모델을 대상으로 한 실험에서, 구조화된 제로샷 (zero-shot) 및 퓨샷 (few-shot) 단일 호출 베이스라인 (one-call baselines)보다 더 낮은 수치 오류 (numeric error), 더 낮은 지시 준수 오류 (instruction-compliance error), 그리고 더 낮은 엔드 투 엔드 비용 (end-to-end cost)을 달성했습니다. 레이어 교체 (Layer replacement) 실험은 계약별 실패 사례를 드러냅니다: LLM 비교는 수치 오류를 높이고, LLM 순위 지정 (ranking)은 정책 선택을 저하시키며, LLM 속성 부여 (attribution)는 근거 없는 인과 관계 언어를 증가시키고, LLM이 생성한 작성자 인터페이스 (writer interface)는 상류의 사실들이 결정론적임에도 불구하고 오류를 재도입합니다. 이 결과는 더 넓은 설계 규칙을 뒷받침합니다: 코드가 반복적인 분석을 담당하게 하고, LLM은 제한된 인터페이스 내에서 검증된 사실을 표현하게 하십시오.