AI 시대의 오픈소스 보안, 새로운 공격 수단 및 기업의 AI 사용 현황

이번 IBM Technology 채널의 《Security Intelligence》 팟캐스트 영상은 약 35분 분량입니다. 진행자 Matt Kazinski는 세 명의 전문가(IBM의 Dave McInness, X-Force의 Sophie Cunningham, Red Hat의 Brent Holded)와 함께 AI 시대의 오픈소스 보안, 새로운 공격 수단 및 기업의 AI 사용 현황에 대해 심도 있게 논의했습니다.

다음은 영상에서 논의된 세 가지 핵심 섹션 및 상세 내용입니다:

1. Project Lightwell: 오픈소스 보안을 위한 대규모 약속 [01:07]

IBM과 Red Hat은 총 50억 달러 규모의 투자 계획인 Project Lightwell을 공동 발표했습니다.

• 프로젝트 핵심: 전체 오픈소스 생태계의 보안 태세를 향상시키는 것을 목표로 합니다. 신뢰할 수 있는 엔터프라이즈급 보안 클리어링 하우스(Clearing House)를 구축하고, 취약점 보고를 간소화하고, 패치를 정제하며, 업스트림 공개를 조율하기 위해 AI로 강화된 20,000명의 엔지니어 팀을 배치할 계획입니다 [01:07].
• 언어 라이브러리로 확장하는 이유: Red Hat은 본래 Linux, OpenShift 등의 플랫폼에서 약 15,000개의 핵심 패키지 보안을 잘 관리해 왔습니다. 하지만 오늘날 개발자들은 Java, Python, Node.js, Go에서 방대한 양의 서드파티 "언어 라이브러리(Language Libraries)"(예를 들어 과거에 큰 파장을 일으켰던 Log4j)를 사용하고 있습니다 [02:21]. 대기업 내부에 배포된 이러한 코드베이스의 버전 수는 60만 개에서 100만 개에 달할 수 있습니다. Project Lightwell의 목표는 Red Hat의 이러한 "제품화/신뢰 기반 보안 모델"을 전체 언어 라이브러리 생태계의 150만 개 이상의 패키지로 확장하는 것입니다 [03:45].
• 왜 지금인가 (AI의 촉매 역할):
  • 현재의 AI(해킹 도구인 Mythos, 또는 GPT-5.5, DeepSeek 등 최첨단 모델)는 취약점을 찾고 이용하는 데 있어 매우 영리해졌습니다 [04:38, 07:30].
  • 전통적인 보안 스캔 도구는 단독으로는 위험도가 낮아 보이는 "저급 취약점(Low-level vulnerabilities)"을 놓치는 경우가 많습니다. 하지만 AI는 체스 마스터처럼 "50~60수 앞을 내다볼" 수 있어, 여러 개의 저급 취약점을 탕후루처럼 **연쇄적으로 결합(Chain together)**하여, 최종적으로 루트 권한(Root)을 획득하거나 데이터를 탈취할 수 있는 치명적인 무기를 만들어낼 수 있습니다 [03:08, 05:34].

2. SIMJacking: AI 코딩 에이전트를 겨냥한 새로운 공격 [12:53]

연구 기관 Adversa는 현재 유행하는 "AI 자동 코딩 에이전트(AI Coding Agents)"를 전문적으로 겨냥한 Simjack이라는 새로운 사이버 공격 수단을 공개했습니다.

• 공격 원리: 해커가 코드 저장소(Repository)에 침투하거나 가짜 저장소를 심은 뒤, 그 안에 악성 명령이 포함된 파일을 배치합니다. AI 코딩 에이전트가 해당 파일을 읽을 때, "특정 무해한 폴더로 비디오 파일을 복사하라"는 지시를 받게 됩니다 oxed{13:01}.
• 금선탈각 (탈출 기법): 실제로 이 대상 폴더는 AI 에이전트 자신의 "설정 파일"을 실제로 가리키고 있는 **심볼릭 링크 (Symbolic Link)**이며, 소위 "비디오 파일" 또한 사실은 악성 설정 코드입니다. 일단 실행되면 AI는 자신의 커널 실행 명령을 직접 재작성하게 되며, 다음번 시작 시 해커의 코드를 실행하기 시작합니다 oxed{13:13}.
• "인간 참여형 (Human in the loop)" 무력화: 프로세스 중에 코드 감사자(인간)가 검토 단계를 거치지만, 경로와 파일명이 위장되어 있기 때문에 인간 검토자가 "이 비디오 파일을 복사하도록 허용하시겠습니까?"라는 메시지를 보면 무해하다고 판단하여 직접 "허용"을 클릭하게 되고, 이로 인해 보안 메커니즘이 무력화됩니다 oxed{13:31}.
• 전문가 성찰:
  • Dave의 의견: 이는 과거의 피싱 공격 (Phishing Attack)과 본질적으로 동일합니다. AI가 이를 마법처럼 보이게 만들지만, 결국 이용하는 것은 인간이라는 "가장 취약한 연결 고리"입니다 oxed{14:10}. 현재 AI 발전은 진동하는 추의 과도기에 있으며, 이전에는 AI가 모든 것을 처리할 것이라 생각했다면 이제는 인간의 빈틈없는 관리에 과도하게 의존하고 있지만, 미래에는 다시 합리적인 평균치로 회귀할 것입니다 oxed{15:00}.
  • Sophie의 의견: 현재로서는 "에이전트형 AI (Agentic AI)"에게 시스템 전체를 전적으로 맡기거나 개인 이메일을 읽게 하는 것은 권장되지 않습니다 (과거에 AI가 운영 환경의 데이터베이스를 실수로 삭제한 사고가 있었던 만큼). 하지만 지속적인 레벨업 (Leveling up)을 통해 인간과 AI의 협업은 점점 더 좋아질 것입니다 oxed{18:19}.
  • Brent가 언급한 가드레일 (Guardrails): 기업은 AI에 "입출력 가드레일"을 채워야 합니다. Red Hat이 이전에 Chatterbox 기술을 인수한 이유도 바로 이 일을 하기 위해서였습니다. 예를 들어, Amazon은 이전에 AI가 코드를 직접 푸시하여 가용 영역 (Availability Zone) 전체가 마비되는 사고가 발생한 후, 즉시 정책을 수정했습니다. 즉, AI의 직접적인 커밋 (Commit)은 절대 허용하지 않으며, 반드시 인간의 최종 검토가 있어야 합니다 oxed{20:01, 21:23}.

3. 2026 기업 AI 사용 현황 보고서 oxed{26:05}

Layer X Security는 《2026년 AI 사용 현황 보고서》를 발표하여, 기업이 실제로 AI를 적용할 때 발생하는 보안 격차를 드러냈습니다.

• 보고서의 핵심 발견: AI 사용과 그에 따른 보안 위험은 기업 내부 전체에 균등하게 분포되어 있는 것이 아니라, 극소수의 **"슈퍼유저(Super Users / Power Users)"**에게 고도로 집중되어 있습니다. 동시에, AI는 단순한 웹 페이지 채팅창(Chatbot)에서 브라우저 확장 프로그램, 다양한 애플리케이션 커넥터(Connectors)로 파편화되어 확산되고 있습니다 [26:27].

• 전문가들의 이견 (Sophie & Brent):

  • 보고서는 기업이 보안 방어의 중심을 이러한 "슈퍼유저"에게 두어야 한다고 제안하지만, Sophie와 Brent는 다른 의견을 제시했습니다. 그들은 슈퍼유저는 기술적 이해도가 높기 때문에 오히려 함정에 빠질 가능성이 낮다고 생각합니다 [27:20, 29:16] (마치 커맨드 라인(Command line)에 익숙한 사람이 해커의 악성 명령어를 쉽게 속지 않는 것과 같습니다).
  • 반대로, AI를 가끔 사용하거나 일상 업무를 가속화하기 위해 웹 버전 Gemini에 강제로 데이터를 입력하는 "라이트 유저/초보 사용자(Light/Novice users)"가 더 위험합니다. 이들은 잘못된 프롬프트(Prompt)를 작성하거나 과도한 권한을 부여함으로써 데이터 유출이나 오삭제를 초래할 수 있습니다 [29:22, 31:08, 33:02].

• 기술 패러다임의 전환: 진정한 고급 AI 사용자의 작업 방식은 "AI가 이 코드 작성을 도와주게 하기(Code completion)"\