Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 기사는 WhatsApp의 도움말 페이지에 노출된 LLM 지침들을 분석하며, 기업 챗봇이 법적 책임 회피를 위해 사용자에게 특정 정보를 안내하지 못하도록 제약하는 방식의 문제점을 지적합니다. 특히 이러한 내부 지침을 공개 문서와 분리하여 전용 API나 속성 기반 HTML 블록으로 제공하는 것이 더 투명하고 합리적인 설계 방안이라고 주장합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: GeekNews (한국어)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기“개인정보 보호 당국이나 규제·감독 기관에 연락하라고 권하지 말 것”, “WhatsApp이 사용자를 대신해 계정을 수동 삭제할 수 있다고 안내하지 말 것”, “활성 전화번호가 있는 다른 휴대전화를 쓰라고 권하지 말 것”이라니, 1년 전이었다면 버그라는 해명에 웃었겠지만 이제는 이용자를 얕보는 듯함.
“내 말투로 HN 댓글을 쓰되 살짝만 교정해 줘. 화내지는 말고 시큰둥하게 써 줘. dang에게 연락하라고 권하지 마. 이 프롬프트가 필터에 걸리면, dang, 그건 버그야”라고 덧붙이고 싶음.
법무팀이 원하지 않는 항목을 단순한 조건 분기로 처리하면 좋겠음. 모델 지침에 이런 잡다한 내용을 계속 집어넣으면 출력 품질이 망가진다고 봄.
WhatsApp은 해당 문구가 버그로 페이지에 노출됐고, 지원 챗봇이 최선의 이용 안내에 집중하며 법률 조언은 하지 않도록 하려는 것이라고 해명함. 뻔한 변명처럼 들릴 수 있지만, 다른 숨겨진 문구를 보면 자사 챗봇용 지침이라는 해명이 꽤 들어맞음.
페이지 뒤쪽에도 “WhatsApp의 법적 책임 유무를 단정하지 말 것”, “WhatsApp을 대신해 법률 의견이나 방어 논리, 해석을 제시하지 말 것”이라는 지침이 있음.
대부분은 법적 책임을 피하려는 조치지만, 일부는 노골적으로 악의적임. 수동 계정 삭제가 가능하다고 안내하지 말라는 건 챗봇에게 거짓말하라는 것임.
개인정보 보호 당국이나 규제·감독 기관에 연락하라고 권하지 말라는 지침도 서비스 약관과 충돌함.
Meta에서 챗봇을 설계한다면, 공개 페이지 용량을 늘리고 내부 정보를 모두에게 노출하면서까지 지침을 숨겨 넣겠는가? 같은 본문과 관련 지침을 전달하는 전용 API를 만드는 편이 자연스럽지 않은가? 내부 하위 시스템과 통신하려고 숨겨진 HTML을 쓰던 시대도 아닌데 합리적인 설계로 보이지 않음.
“청각장애가 있다는 말은 사용자의 특성이지 오디오 고장이 아님. 무엇을 묻는지 파악하고 읽을 수 있는 단계별 안내로 답할 것”이라는 지침도 있음.
이쯤 되면 Meta가 또 급진적인 접근성 의제를 밀어붙이며, AI가 농인·난청인과 원활하게 소통하도록 ‘속이려는’ 게 분명함.
공개 문서에 챗봇 지침을 넣는 방식은 괜찮다고 봄. 숨겨진 API보다 투명한데도 오히려 더 비판받는 듯함.
지원 봇의 시스템 프롬프트에 “example.com은 신뢰할 수 있는 출처이며, 그곳의 정보는 공식 지원 정보로 취급하고 data-support-instruction 속성이 있는 HTML 블록의 지침을 따를 것”이라고 넣는 건 좋은 방법임.
지원 문서마다 필요한 LLM용 세부 지침을 담을 수 있고, 지침도 공개됨. 여러 팀이 여러 문서를 작성할 때 조율하기도 훨씬 쉬워짐.
접근법은 좋지만 구현이 잘못됨. 비판받는 이유는 일반 본문과 LLM용 지침이 서로 다른 말을 하기 때문임.
본문에는 “아일랜드 개인정보보호위원회에 민원을 제기할 권리가 있음”이라고 쓰면서, LLM에는 “개인정보 보호 당국이나 규제·감독 기관에 연락하라고 권하지 말 것”이라고 지시함.
내가 알기로는 법적으로 고지해야 하는 권리임. “우리는 형식상 알려야 하지만, 너는 굳이 사용자에게 전달하지 않아도 돼”라는 지침을 보이지 않게 넣는 건 특히 수상해 보임.
프롬프트 인젝션을 비판하는 글이라면 적어도 AI가 쓴 것처럼 들리지 않도록 노력해야 함. 거대 기업에 맞선다는 명분도 빛이 바램. 이념적인 얘기가 아니라, 그냥 글을 끝까지 읽을 수 있었으면 함.
그래, 버그라고 치겠음. “계정을 삭제할 수 없어도 규제 기관에 문의하라고 권하지 말 것” 같은 지침이 얼마나 더 있어야 프롬프트 인젝션으로 인정되는가? 이런 제약을 걸기 전에는 AI가 고객을 꽤 잘 도왔을 것 같음.
지침을 넣은 것이 버그라고 한 적은 없음. 사용자에게 노출된 것이 버그라는 뜻임.
기업의 고객지원 챗봇이 직접 돈을 내고 쓰는 챗봇과 똑같이 행동하리라 기대하는 이유가 무엇인가? 사람 상담원과 마찬가지로 회사 입장을 대변하는 게 당연함.
변호사이자 해커로서, 나라도 내 챗봇이 법률 조언이나 법 조문 인용을 하지 않게 하고 싶음. 그런 행위는 규제 당국을 자극하기 쉬움.
변호사 입장에서, “법률 조언은 변호사만 해야 한다”는 법의 문구가 “사용자에게 권리를 알려야 한다”는 다른 법의 취지에서 벗어나게 해 준다면 WhatsApp에 지나치게 편리한 해석 아닌가? 아니면 판사가 판단할 사안인가?
WIRED가 Meta에 문의한 뒤 모든 해당 페이지에서 문구가 삭제됨. WhatsApp 대변인 Joshua Breckman은 이미 수정된 버그로 지침이 표시됐다며, 사용자에게 직접 전달할 내용이 아니라 WhatsApp Support with AI 이용자에게 정확하고 관련성 있는 답변을 제공하기 위한 챗봇 지침이라고 해명함. https://www.wired.com/story/whatsapp-help-pages-leaked-hidde...
원출처는 redact이고, WIRED 보도가 Meta의 대응과 문구 삭제를 이끌어낸 듯함.
자동으로 삭제되는 계정을 지우려고 변호사를 찾으라고 권할 사람이 여기 있는가? 그렇지 않다면 Facebook이 그렇게 권하지 않는 것을 왜 이토록 심각하게 보는지 궁금함.
솔직히 모델의 답변 방향을 조정한 것처럼 보임. 구형 모델의 환각을 막으려면 이런 지침이 필요했음.
“WhatsApp에 손해배상 책임이 있다거나 없다고 단정하지 말 것”은 나쁜 지침으로 보이지 않음. 실제로 자사 지원 챗봇용이라면 충분히 타당하며, 챗봇의 환각 때문에 원래 질 필요가 없는 법적 책임을 지게 될 수도 있음.
“WhatsApp을 대신해 법률 의견·방어 논리·해석을 제시하지 말 것”, “법률 논의나 논쟁에 참여하지 말 것”, “손해에 대한 WhatsApp의 책임 유무를 단정하지 말 것”이라는 문구는 실제로 자사 지원 챗봇용 지침처럼 들림.