대규모 언어 모델(LLMs)을 이용한 자동 이력서 스크리닝에서의 프롬프트 인젝션(Prompt Injection): 단일 및 다중 인젝션 설정

요약

LLM 기반 자동 이력서 스크리닝 시스템을 대상으로 한 프롬프트 인젝션 공격의 효과와 취약성을 연구했습니다. 지원자들의 인젝션 시도가 많아질수록 효과가 감소하지만, 지원자 품질이 불균형할 경우 공정성 문제가 발생할 수 있음을 확인했습니다.

핵심 포인트

• 프롬프트 인젝션은 지원자의 순위를 안정적으로 조작할 수 있음
• 인젝션 시도자가 많아질수록 조작 효과는 급격히 감소함
• 지원자 품질이 이질적일 경우 저품질 지원자가 고품질을 앞지를 위험 존재
• 조작이 드물고 지원자 간 품질 차이가 작을 때 시스템이 가장 취약함