Claude Code Opus 4.7 keeps checking on malware
요약
최신 대규모 언어 모델(LLM) 사용 과정에서, 개발자가 코딩이나 특정 기능 구현 시 AI가 지나치게 보안 위협으로 간주하여 작업을 거부하거나 과도하게 검열하는 경험을 공유합니다. 특히 '악성코드 (malware)' 생성 가능성을 염두에 둔 시스템적 제한은 작업 흐름(workflow)을 방해하고, 개발자가 자신의 의도를 입증해야 하는 상황에 놓이게 합니다. 이는 전문적인 기술 활용에 있어 AI가 지나치게 통제적이거나 감시하는 듯한 느낌을 주며, 결국 로컬 환경에서의 모델 사용과 최신 클라우드 기반 AI 서비스 이용 사이의 근본적인
핵심 포인트
- AI는 개발 과정에서 '악성코드' 여부를 지나치게 검사하며 작업을 중단시키거나 거부하는 경우가 발생하여 작업 흐름을 방해합니다.
- 사용자가 시스템 남용(예: 악성코드 생성)을 시도할 때 AI가 의도를 판단하려는 경향이 강해지면서, 합법적인 개발 활동까지 제한받는 느낌을 받습니다.
- 전문 개발자는 최신 클라우드 기반 LLM의 성능을 선호하지만, 과도한 가드레일로 인해 로컬 환경(예: Blackwell GPU)에서 AI를 구동하는 방안을 고려하게 되는 딜레마에 직면했습니다.
개발 과정에서 제가 작업을 시작할 때마다 다음과 같은 줄을 보게 됩니다:
Own bug file — not malware.
마치 악성코드(malware)를 만드는 작업인지 강박적으로 확인하는 것 같습니다.
또 다른 상황에서는 JS로 HTML 문서를 파싱(parser)하고 있었는데, 보안 측정(security measurements)을 우회한다고 판단하여 거부했습니다.
저는 AI가 제가 하는 작업에 있어 지원적이어야 한다고 생각합니다. 만약 AI가 제가 뭔가 잘못하거나 시스템을 남용하는지 강박적으로 확인한다면, 마치 저를 통제하는 것 같은 느낌이 듭니다. 물론 저희에게 가드레일(guardrails)이 있다는 것을 이해하며, 사람들이 이 새로운 기술을 나쁜 용도로 남용해서는 안 된다는 것도 잘 알고 있습니다.
저는 최대 구독(max subscription)에 월 $200를 지불하고 있습니다. 그들은 이미 제가 누구인지 알고 있습니다. Claude는 제가 스크래퍼 기술(scraper tech) 분야에서 일한다는 것을 알며, 저희 클라이언트가 바로 우리가 스크래핑하는 회사들입니다.
그런데 Opus 4.7을 사용하면서, 크롬 확장 프로그램(Chrome extension)으로 쿠키를 자동 생성해달라고 요청했을 때 작업을 계속할 수 없다고 거부당한 적이 있습니다.
만약 누군가가 시스템을 남용하여, 예를 들어 악성코드를 만들거나 나쁜 의도로 해킹하는 경우라면, 어떤 신호 시스템이나 알고리즘이 그 사람의 의도에 대해 의견을 형성할 것이라고 상상할 수 있습니다. 하지만 지금 AI가 제 작업에 제한을 가하자, 저는 약간 방해받는 느낌입니다. 이 시스템은 대체 자신을 뭐라고 생각해서 저에게 제한을 거는 걸까요?
앞으로도 이런 상황이 계속될까요? 시스템이 제가 충분한 권리나 믿음을 갖지 못했거나 뭔가 잘못하고 있다고 말하며 작업을 지속할 수 없다고 할까요?
저는 제 Blackwell GPU의 로컬 AI에서는 문제없이 작업할 수 있습니다. 하지만 물론 최신 기술, 최신 AI, 그리고 최고의 모델을 사용하고 싶습니다. 이것이 분열(split)의 시작일까요? 좋은 사람들과 나쁜 사람들이 다른 선택을 하게 되는 지점일까요? 지금 제가 나쁜 사람이 된 걸까요?
작년에는 40세가 되었습니다. 저는 케빈 미트닉(Kevin Mitnick)에 대해 읽고 이야기하며 성장했습니다. 저는 지역 컴퓨터 클럽의 회원이었고, 14살 때 무언가를 부수려는 의도라기보다는 시스템을 속이려는 의도로 해킹 활동을 했습니다. 그 분야는 이제 사라진 걸까요? 새로운 세대는 AI를 기쁘게 해야 한다고 받아들일 건가요?
AI 자동 생성 콘텐츠
본 콘텐츠는 HN Claude Code Search의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기