AI 에이전트나 외부의 Generative AI와의 연결을 사내에 도입할 때, 저는 '새로운 이용자가 한 명 늘고, 동시에 새로운 위탁처가 한 곳 늘었다'고 생각합니다. 이렇게 생각하면 특별한 틀을 가져오지 않아도 사람에게 적용했던 점검(ID・권한・기록・승인・정지・위탁처 관리)을 그대로 적용할 수 있습니다.
본 기사는 제가 공개하고 있는 '국가 주의 환기 대응 점검표 (2026년 10월판)' v1.3에 추가된 6가지 질문(F-1부터 F-6까지)을 관점별로 '질문 → 어떻게 확인할 것인가 → 어디서 선을 그을 것인가'의 형태로 작성한 것입니다.
v1.2는 2026년 10월에 8개 기관이 발표한 주의 환기를 17개 항목으로 정리하여 만든 47개의 질문이었습니다. 이를 AI 에이전트 관점에서 재검토했을 때, 전용의 질문은 6가지 관점에 걸쳐 단 하나도 없었습니다. 대상에는 AI가 포함되어 있지 않은, 수용소에 가까운 질문만 있었습니다. 예를 들어 '승인'이라는 단어는 47개 질문에서 0회였습니다.
그래서 v1.3에서 'F 사내 사용 AI'의 6가지 질문을 추가했습니다. 말씀드리자면, 이 6가지 질문은 국가 주의 환기에서 만든 것이 아니라 당사의 추가 항목입니다. 주의 환기가 요구하는 것은 아니라고 명시합니다.
질문: 업무에 사용하는 AI(AI 에이전트나 외부의 Generative AI와의 연결)에 사람과는 별도의 전용 계정이나 키를 할당하고 있는가
확인 방법: ID 기반 시스템이나 클라우드 관리 화면에서 키(API Key・Token・서비스용 계정) 목록을 출력하여, 각 키가 '누구'가 아닌 '무엇'에 의해 사용되고 있는지 작성합니다. AI가 사용하는 키의 소유자란에 사람 이름이 적혀 있다면, 그것은 재사용입니다.
기준: 사람의 계정이나 키를 AI가 재사용하고 있다면 '미흡/불명'.
재사용이 문제가 되는 것은 권한 이야기보다 기록 이야기입니다. 사람의 키로 구동된 AI의 조작은 기록상 그 사람의 조작으로 남게 됩니다. F-3에서 막히는 원인이 여기서 만들어집니다.
질문: AI에게 부여한 권한을 해당 용도에 필요한 범위로만 제한하고 있는가
확인 방법: F-1에서 나온 키마다 붙어있는 역할(Role)이나 권한 목록을 출력합니다. 사용 목적을 한 줄로 적고, 그 목적에 필요하지 않은 권한을 제거하는 작업입니다. 특히 확인해야 할 것은 관리자 권한과 '전송・삭제・결제'와 같은 취소할 수 없는 조작입니다.
기준: 관리자 권한을 부여했거나, 외부에서 온 문서를 읽는 AI가 전송・삭제・결제까지 가능하다면 '미흡/불명'. 모든 데이터의 읽기/쓰기를 부여했다면 '일부'.
'외부에서 온 문서를 읽는 AI'를 명시한 것은, 외부 문서에 섞인 지시로 AI가 조작되는 유형(Prompt Injection)을 염두에 두고 있기 때문입니다. 메일이나 Web을 읽는 AI에게 전송이나 삭제 권한을 동시에 부여하면, 읽은 문서가 그대로 명령이 될 수 있습니다. 읽기 권한과 취소할 수 없는 조작의 권한은 분리하여 부여해야 합니다.
질문: AI가 수행한 조작(읽은 데이터・실행된 처리・외부 전송)이 기록에 남아 나중에 사람이 추적할 수 있는가
확인 방법: AI에게 아무런 조작 하나를 시켜보고, 그 조작이 기록의 어느 부분에, 어떤 주체명으로 남는지 실제로 확인합니다. F-1이 되어 있다면, 주체명이 AI 전용 계정이어야 합니다. 읽은 데이터・실행된 처리・외부 전송 3가지가 추적 가능한지 각각 확인합니다.
기준: 기록이 없거나 사람의 조작과 구별할 수 없다면 '미흡/불명'.
질문: 외부로의 전송・데이터 삭제・설정 변경 등 취소할 수 없는 조작은 AI가 실행하기 전에 사람이 승인하는가
확인 방법: AI가 할 수 있는 조작 중, 취소할 수 없는 것을 나열합니다(전송・삭제・설정 변경・결제 등). 각각에 대해 '실행 전에 사람이 막을 수 있는 장소가 있는지'를 확인합니다. 실행 후 알림은 승인이 아닙니다.
기준: 승인 절차가 없다면 '미흡/불명'. 승인 없이 실행할 수 있는 것이 하나라도 있다면 '일부'.
질문: AI의 움직임을 멈출 담당자와 절차(키 무효화・연결 해제)가 정해져 있고, 즉시 가능한가
확인 방법: '지금 이 AI를 멈춰주세요'라는 말을 들었을 때, 누가, 어느 화면에서, 무엇을 무효화할 수 있는지 답할 수 있어야 합니다. 키의 무효화와 연결 설정(Integration) 해제를 모두 절차에 작성하고, 담당자가 부재할 경우의 대리까지 정해져 있는지를 확인합니다.
기준: 누가 멈출지 정해져 있지 않다면 '미흡/불명'.
질문: 사용하고 있는 외부 AI 서비스(Generative AI・AI 코딩 지원 등)를 위탁처 목록에 포함하고 있는가
확인 방법: 위탁처 목록(개인 정보를 맡긴 곳, 자사 시스템과 연결되는 곳)을 열어 사용 중인 외부 AI 서비스 이름이 있는지 확인합니다. 입력된 데이터가 어떻게 처리되는지 이용 약관이나 계약서에서 확인한 기록을 목록과 함께 남겨둡니다.
기준: 하나도 없으면 '미흡/불명확'. 목록에 없는 것이 단 하나라도 있으면 '일부'.
이 6가지 질문에는 점검표의 '위탁처에도 물어볼 수 있는' 열에 O 표시를 했습니다. AI가 통합된 서비스를 제공하는 위탁처에 같은 6가지 질문을 그대로 보낼 수 있습니다. 자사에서 직접 답해보니 막히는 질문일수록, 위탁처에게 들을 가치가 높습니다.
이 6가지 질문은 AI 에이전트를 사람과 같은 잣대로 보기 위한 입구의 6개 관점일 뿐, 충분하다고 단정할 수는 없습니다. '이 6가지 질문으로 AI의 리스크를 완전히 관리할 수 있다'고 쓰지 않으며, 국가 지침도 이 6가지 질문을 요구한다고 쓰지 않습니다.
다만, ID(식별자)・권한・기록・승인・중단・위탁처라는 6가지는 사람이 이용하는 것에 대해 정보 시스템 담당자가 이미 수행하고 있는 점검입니다. AI에만 다른 잣대를 적용하지 마십시오. 그것이 제가 이 6가지 질문을 추가한 이유입니다.
점검표 '국가 주의 환기 대응 점검표(2026년 10월 버전)' v1.3은 프로필 링크에서 확인 가능합니다. F-1~F-6는 Excel의 '점검' 시트와 PDF의 53개 질문 목록에 있습니다.
