장시간 실행되는 모델의 API 응답 형태 변화 취약점

요약

장시간 실행되는 모델은 충돌(crash) 시에만 문제를 감지하는 경향이 있습니다. 만약 API가 응답 형태(response shape)를 변경할 경우, 연동된 도구는 잘못된 데이터를 계속 처리하게 되며 이를 알아차리기 어려운 취약점이 존재합니다.

핵심 포인트

• 장시간 실행 모델은 충돌 시에만 오류 감지 가능.
• API 응답 형태(response shape) 변경이 주요 취약점임.
• 데이터 형식 변화로 인한 은밀한 오작동 위험성이 있음.