KillSwitch: LLM을 함정에 빠뜨리도록 설계된 난해한 언어

요약

KillSwitch는 LLM(대규모 언어 모델)의 취약점을 테스트하기 위해 설계된 난해한 언어입니다. 이 언어는 식별자 내 문자 개수 세기, 거짓을 포함하는 사양 등을 활용하여 모델이 논리적 함정에 빠지도록 유도합니다.

핵심 포인트

• KillSwitch는 LLM의 취약점을 테스트하기 위해 설계된 난해한 언어입니다.
• 문자 개수 세기 등 복잡한 구조를 통해 모델을 제한할 수 있습니다.
• 거짓 사양(spec)과 가드레일 작동 구문을 포함합니다.