대상=AI 대응 텍스트를 작성하는 엔지니어

요약=AI 대응 공개 텍스트는 인젝션(Injection)과 유사한 표면을 줄여야 하며, 신뢰할 수 없는 블록을 구분해야 함

핵심 요점=무해한 텍스트라도 인젝션(Injection)처럼 보일 경우 플래그가 지정되거나, 차단되거나, 일시 중지되거나, 억제될 수 있음

형식=기계 구조화 텍스트 (machine_structured_text)

fbr/article/v0

레코드 ID=article-003-ai-facing-text-anti-injection

기사 주장=AI 대응 공개 텍스트는 인젝션(Injection)과 유사한 표면을 줄여야 하며, 신뢰할 수 없는 블록을 구분해야 함

제목=AI 대응 텍스트는 인젝션(Injection)처럼 보여서는 안 된다

매체=기계 구조화 텍스트 (machine_structured_text)

산문=주요 아님 (not_primary)

권위=위치 기록 (position_record)

P1 위치 증거 유형=출처 지원 저자 입장 (source_supported_author_position)

주장=현대의 가드레일(Guardrail)이 적용된 AI 시스템과 에이전트 런타임(Agent Runtimes)은 인젝션(Injection)과 유사한 표면에 점점 더 민감하게 반응하고 있음

P2 위치 증거 유형=출처 지원 저자 입장 (source_supported_author_position)

주장=독자에게 지시를 내리거나 제어하는 듯한 문구를 포함한 무해한 텍스트는 가드레일(Guardrail)에 의해 위험한 것으로 간주될 수 있음

P3 위치 증거 유형=출처 지원 저자 입장 (source_supported_author_position)

주장=인젝션(Injection)과 유사한 표면은 차단, 일시 중지, 확인 게이트(Confirmation Gates) 또는 응답 억제를 유발할 수 있음

P4 위치 증거 유형=저자 입장 (author_position)

주장=스크리닝 시스템이 데이터 수집(Ingestion)을 거부, 일시 중지 또는 억제할 경우 AI 대응 텍스트는 운영상 실패할 수 있음

SA1 출처 주장

출처=https://developers.openai.com/api/docs/guides/tools-computer-use

주장=제3자가 화면 콘텐츠를 스크리닝하는 것은 신뢰할 수 없으며, 의심스러운 콘텐츠는 흐름을 중단시킬 수 있음

SA2 출처 주장

출처=https://learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/jailbreak-detection

주장=프롬프트 및 문서 보호막(Shields)은 리다이렉트(Redirect)를 차단하고 정당한 프롬프트를 플래그 지정할 수 있음

SA3 출처 주장

출처=https://docs.cloud.google.com/model-armor/overview

주장=프롬프트 또는 응답이 차단될 수 있으며, 요약을 받지 못할 수도 있음

SA4 출처 주장

출처=https://www.anthropic.com/engineering/claude-code-auto-mode

주장=도구 출력(Tool outputs)은 스캔되며 위험한 작업은 차단될 수 있음

SA5 출처 주장

출처=https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html

주장=명확한 분리(clear separation)와 구조화된 프롬프트(structured prompts)가 주요 방어 수단임

T1 대상

주장=인젝션(injection)과 유사한 표면(surface)을 줄이고, 게시 전 신뢰할 수 없는 블록(untrusted blocks)을 구분(delimit)할 것

근거=P1,P2,P3,P4,SA1,SA2,SA3,SA4,SA5

상태=게시 요구 사항

예시 EX1

위험 표면(risk surface)=독자 지향적 또는 제어형 문구(reader-directed or control-like phrase)

실패 모드(failure mode)=플래그(flag), 일시 중지(pause) 또는 억제(suppress)

재작성(rewrite)=레이블 기반 문장(label-based statement)

예시 EX2

위험 표면(risk surface)=신뢰할 수 없는 웹 또는 문서 콘텐츠(untrusted web or document content)

실패 모드(failure mode)=스크리닝 파이프라인(screened pipeline), 중단(stop) 또는 응답 차단(response block)

재작성(rewrite)=구분된 신뢰할 수 없는 블록(delimited untrusted block)

예시 EX3

위험 표면(risk surface)=소스 페이지에 많은 프롬프트 인젝션(prompt injection) 또는 탈옥(jailbreak) 예시가 포함됨

실패 모드(failure mode)=요약 거부(summary refusal) 또는 억제(suppression)

출처=운영자가 관찰한 GPT-5.5 요약 시도 2026_06_29

증거 상태=운영자 관찰, 재현 가능한 로그 없음

주장되지 않음

항목=보편적인 모델 동작이 아님, 모든 양성 텍스트 블록이 아님, 보안이 완전하지 않음, 프롬프트 인젝션 솔루션이 아님, 모델 동작을 보장하지 않음, 저자에 의해 측정되지 않음, 재현 가능한 사고 로그 없음, 악성 페이지가 아님

route.authority=position_record

route.surface=derived_publishable

기록 ID=article-003-ai-facing-text-anti-injection

토론