AI는 소프트웨어 개발을 변화시키고 있습니다. 오늘날 AI 코딩 어시스턴트(AI coding assistants)의 코드 작성, 코드 리뷰, 버그 탐지 및 문서 생성 능력은 단 몇 초 만에 활용 가능합니다.

하지만 이러한 도구들이 더욱 정교해짐에 따라, 코드보다 훨씬 더 많은 것을 처리하는 멀티모달(multimodal) 방식으로 진화하고 있습니다.

이는 개발 팀에게 새로운 보안 우려를 낳습니다. 즉, 그들이 사용하는 AI 도구가 처리할 수 있는 모든 가능한 입력(inputs)을 보안 전략이 커버하고 있는가 하는 점입니다.

멀티모달 AI의 부상

전통적인 소프트웨어 개발 도구는 주로 텍스트 파일을 처리합니다.

반면, 현대의 AI 어시스턴트는 다음과 같은 것들을 이해할 수 있습니다:

코드 자체
마크다운(markdown)으로 작성된 파일
기술 문서
이미지
스크린샷
그래픽
PDF 파일

이러한 추가 정보는 AI 어시스턴트를 개발자에게 더 유용하게 만들지만, 노출 영역(exposure area) 또한 증가시킵니다.

이제 AI 도구가 이러한 파일로부터 유용한 정보를 읽을 수 있기 때문에, 이미지 파일은 잠재적인 위협 벡터(threat vector)가 됩니다.

기존 코드 리뷰가 충분하지 않은 이유

대부분의 기존 코드 리뷰 자동화 도구는 다음을 분석합니다:

소스 코드
설정 파일
의존성(dependencies) 변경 사항
빌드 스크립트
PNG와 같은 바이너리 자산(binary assets)은 일반적으로 정적 자산으로 간주됩니다.

AI가 시각적 콘텐츠를 이해하는 능력을 갖추게 됨에 따라, 현재의 리뷰 프로세스가 코드뿐만 아니라 AI 알고리즘에 의해 소비되는 모든 유형의 데이터를 커버하는지 평가하는 것이 중요합니다.

하지만 문제는 이미지 분석에 그치지 않습니다. AI 알고리즘의 동작에 영향을 미칠 수 있는 모든 바이너리 자산은 특정 위험을 초래할 수 있습니다.

*보안이 강화된 AI 개발 파이프라인 구축
*

AI는 개발 노력을 증강해야 하며, 추가적인 취약점을 만들어내서는 안 됩니다.

AI 지원 소프트웨어 개발을 채택할 때는 다음과 같은 모범 사례(best practices)를 고려해야 합니다:

AI 도구를 구현할 때는 최소 권한 원칙 (principle of least privilege)을 사용하십시오.
AI 에이전트 (AI agents)를 샌드박스 환경 (sandboxed environment)에서 구현하십시오.
중요한 작업은 사람이 승인하십시오.
AI가 비코드 자산 (non-code assets)을 어떻게 처리하는지 검토하십시오.
AI 알고리즘의 의심스러운 동작을 식별하십시오.
AI 거버넌스 (AI governance) 및 보안 정책을 정기적으로 업데이트하십시오.

이러한 조치들은 리스크를 낮추는 동시에 개발 팀이 AI의 이점을 활용할 수 있게 해줍니다.

보안은 소스 코드를 넘어서야 합니다
전통적인 소프트웨어 보안은 주로 소스 코드에 집중되어 왔습니다.
AI는 이 방정식을 변화시킵니다.

보안 실무자들은 문서, 다이어그램, 사진, 지식 베이스 (knowledge bases)와 같이 AI 어시스턴트가 사용할 수 있는 모든 입력 소스를 고려해야 합니다.

목표는 AI를 불신하는 것이 아닙니다.

오히려 AI가 잘 정의된 보안 경계 내에서 작동하도록 보장하는 것입니다.

AI 보안의 미래를 준비하며

멀티모달 (multimodal) AI가 소프트웨어 개발의 새로운 표준이 됨에 따라, 지금 보안 전략 측면에서 이를 준비하는 조직이 미래에 더 잘 대비할 수 있을 것입니다.

보안을 의식한 AI 도입은 적절한 모델을 선택하는 것 이상을 요구합니다. 적절한 프로세스를 구축하고, 과도한 접근을 제한하며, AI와 소프트웨어 개발 환경 간의 상호작용을 지속적으로 모니터링하는 과정이 필요합니다.

기업용 AI 커뮤니케이션과 지능형 워크플로 자동화 (intelligent workflow automation)에 관심 있는 독자라면, CommConAI에서 조직들이 AI를 책임감 있게 적용하는 방법에 대한 실질적인 사례를 확인할 수 있습니다: [https://commconai.com/]

맺음말

소프트웨어 개발은 AI 덕분에 전례 없는 속도로 변화하고 있습니다.

차세대 애플리케이션 보안은 단순히 코드를 보호하는 것 이상이 될 것입니다.

그것은 AI가 접근 가능한 모든 정보를 보호하는 것에 관한 것이 될 것입니다.