본문으로 건너뛰기
arXiv논문2026. 11. 21. 08:56
대규모 언어 모델(LLM)을 이용한 질의 기반 블랙박스 임상 예측 모델 감사: 인위적 결함이 포함된 블라인드 테스트 대표 이미지

대규모 언어 모델(LLM)을 이용한 질의 기반 블랙박스 임상 예측 모델 감사: 인위적 결함이 포함된 블라인드 테스트

원문 발행 2026. 11. 19. 03:24원문 언어 영어AI 한국어 번역arXiv cs.LG (Machine Learning) 원문 보기

요약

연구진은 임상 예측 모델의 결함을 찾기 위해 LLM을 활용한 감사 테스트를 진행했습니다. 국제 뇌졸중 데이터를 사용해 인위적 결함이 포함된 블랙박스 모델들을 구축하고, GPT-6 Astra 같은 LLM으로 블라인드 테스트를 수행했습니다. 그 결과, LLM은 심어진 결함을 높은 정확도로 발견하며 질의 접근만으로도 효과적인 감사 도구임을 입증했습니다.

핵심 포인트

  • LLM은 질의 기반 접근만으로 블랙박스 모델을 충실하게 설명할 수 있음.
  • 인위적 결함이 포함된 모델 감사에서 96%라는 높은 발견율을 보임.
  • 본 기술은 임상 예측 모델의 신뢰성 검증에 활용될 잠재력이 높음.
  • LLM이 보고하는 문제점들은 반드시 원본 데이터와 모델 자체에서 확인해야 함.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.LG (Machine Learning)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0