ChatGPT는 더 이상 답변만 하지 않는다: 이제 행동한다

GPT-6 Astra의 등장과 함께 **AGI(Artificial General Intelligence, 범용 인공지능)**를 둘러싼 논쟁이 다시 격화되고 있습니다. 일부에서는 이미 이 임계점에 도달했을 수 있다고 주장합니다. AGI는 일반적으로 단일 작업에 특화되지 않고, 새로운 문제를 포함하여 매우 다양한 종류의 문제들을 학습하고 추론하며 처리할 수 있는 인공지능으로 이해됩니다. 즉, 그러한 시스템은 각 작업을 위해 특별히 설계되지 않았더라도 광범위한 범위의 작업에서 학습하고 적응할 수 있어야 합니다. OpenAI는 더 구체적인 정의를 사용했는데, 이는 대부분 경제적으로 가치 있는 업무에서 인간을 능가하는 고도로 자율적인 시스템입니다. 문제는 AGI가 실제로 도달했는지 확실하게 알려줄 보편적으로 받아들여지는 테스트가 여전히 없다는 것입니다. 따라서 Astra가 정말로 AGI를 대표하는지 판단하기는 어렵습니다. 외부에서 볼 때, 우리는 폐쇄된 시스템을 관찰하고 있으며, 우리가 보는 것 중 얼마나 많은 부분이 단일 모델에 의존하는지, 그리고 얼마나 많은 부분이 대신 백그라운드에서 작동하는 도구와 추가 구성 요소들로부터 오는지를 알지 못합니다. 하지만 훨씬 쉽게 관찰할 수 있는 또 다른 주요 변화가 있습니다: 에이전트 AI(agentic AI)가 개발자나 전문가에게만 국한되지 않고 매우 광범위한 대중에게 다가가고 있다는 것입니다. 최근 몇 년 동안 우리는 주로 인공지능에게 무언가를 생성하도록 요청하는 방식으로 사용해 왔습니다. 이메일 작성, 문서 요약, 이미지 생성, 주제 설명 등이 그것입니다. 오늘날 우리는 점점 더 그것에게 작업을 직접 수행하도록 요청할 수 있습니다. 시스템은 웹사이트를 열고, 애플리케이션을 사용하고, 양식을 채우고, 문서를 처리하며, 주어진 목표에 도달할 때까지 일련의 작업을 수행할 수 있습니다. 더 이상 단순히 답변을 생성하는 것이 아니라: 행동합니다.

잠재적인 이점은 엄청납니다. 많은 사무직 업무에서 여전히 상당한 시간이 여러 애플리케이션에 걸쳐 수동 작업을 수행하는 데 쓰입니다. 데이터 내보내기(exporting data), 파일 편집, 정보를 다른 시스템에 복사하기, 웹사이트 열기, 필드 채우기, 그리고 모든 것이 올바르게 입력되었는지 확인하는 등의 작업이 포함됩니다. 때로는 소프트웨어가 설계가 미흡하거나 너무 경직되어 있기 때문에 이런 일이 발생하기도 합니다.

다른 경우에는 서로 다른 시스템 간의 통합(integration) 자체가 존재하지 않거나 추가 유료 모듈을 통해서만 이용 가능한 경우가 있습니다. 인간은 전통적으로 브라우저, 애플리케이션, 스프레드시트, 양식 사이를 끊임없이 이동하며 이러한 격차를 메워왔습니다. 사람이 브라우저, 마우스, 키보드를 사용하여 이 작업을 수행할 수 있다면, 많은 경우 AI 에이전트도 동일한 작업을 잠재적으로 할 수 있습니다.

지난 며칠 동안 저는 매우 다양한 활동에서 이러한 기능들을 실험해 보았습니다. 한 사례에서는 시스템에게 라메치아 테르메 공항(Lamezia Terme airport)을 출발점으로 하여, 저렴한 직항 항공편 검색, 기차 연결 평가, 그리고 여행 시간과 비용을 통제하면서 가장 흥미롭고 역사적으로 자리 잡은 크리스마스 마켓이 있는 유럽 도시들을 선택하도록 요청했습니다. 또 다른 사례에서는 선수 가치 평가(player valuations), 득점 확률(goal-scoring probabilities), 기대 득점(expected goals) 같은 통계 자료를 결합하여 잠재적으로 저평가된 축구 선수들을 식별하도록 요청했습니다.

일부 단계에서 시스템은 제가 명시적으로 승인한 도구들, 즉 브라우저와 이미 로그인되어 있던 웹사이트들도 사용했습니다. 바로 이 지점에서 이러한 시스템의 에이전트적(agentic) 특성이 특히 두드러집니다: AI는 다양한 도구를 선택하고 조합하며, 정보를 검색하고, 대안을 비교하고, 결과를 얻을 때까지 일련의 작업을 수행할 수 있습니다.

바로 이러한 도구 및 개인 자원을 사용하는 능력이 가장 섬세한 문제들을 야기합니다. 진정으로 유용하기 위해서는 에이전트가 파일을 읽거나, 이메일에 접근하거나, 브라우저를 사용하고, 캘린더를 참고하거나, 경우에 따라 메시지를 보내고 문서를 수정해야 할 수도 있습니다. 하지만 우리가 부여하는 접근 권한이 광범위할수록 오류의 결과는 더욱 커집니다.

요청을 오해하는 챗봇은 잘못된 답변을 생성할 수 있지만, 동일한 요청을 오해하는 에이전트는 잘못된 행동을 수행할 수 있습니다. 이는 근본적인 차이점인데, AI 시스템이 단순히 응답하는 것을 넘어 '행동'할 수 있게 되면서 오류가 더 이상 생성하는 정보에만 국한되지 않고 주변의 시스템과 자원에도 직접 영향을 미칠 수 있기 때문입니다.

이것이 바로 컴퓨터 보안의 근본 원칙 중 하나인 **최소 권한의 원칙(principle of least privilege)**이 특히 중요해지는 이유입니다. 시스템은 할당된 작업을 수행하는 데 필요한 최소한의 권한만을 가져야 합니다. 에이전트가 폴더를 읽어야 한다면, 우리의 모든 파일에 자동으로 접근할 수 있도록 허용되어서는 안 됩니다. 이메일을 작성해야 한다고 해서 그것을 보내는 것까지 가능해서도 안 됩니다. 캘린더를 참고해야 한다고 해서 약속을 취소할 권한이 반드시 필요한 것은 아닙니다.

모바일 운영체제 덕분에 우리는 이미 카메라, 마이크, 위치 또는 연락처에 대한 접근을 명시적으로 요청하는 애플리케이션에 익숙해졌습니다. 데스크톱 시스템에도 유사한 제어 장치가 존재하지만, 종종 덜 구조화되어 있고 덜 세분화되어 있습니다. AI 에이전트와 함께 우리는 아마도 훨씬 더 세밀한 제어가 필요할 것입니다. 즉, 어떤 데이터에 접근할 수 있는지뿐만 아니라, 어디에서 작동할 수 있는지, 언제 행동할 수 있는지, 그리고 추가적인 승인 요청 없이 어떤 작업을 수행할 수 있는지를 통제해야 합니다.

또한 책임의 문제가 있습니다. 에이전트에게 작업을 위임한다고 해서 그 결과에 대한 책임을 자동으로 위임하는 것은 아닙니다. 이러한 시스템을 사용하는 것이 배포를 결정하고, 승인하며, 감독하는 사람들과 조직들의 책임을 면제하지는 않습니다. 진정한 과제는 AI 에이전트가 무엇을 자율적으로 할 수 있는지, 어떤 경우에 명시적인 인간의 승인이 있어야 하는지, 그리고 절대로 허용되어서는 안 되는 것은 무엇인지 결정하는 것입니다.

따라서 앞으로 몇 달 동안 사무실에 들어갔는데 동료의 컴퓨터에서 창문이 열리고 닫히고, 브라우저가 웹사이트를 방문하고, 아무도 마우스나 키보드를 만지지 않는데도 애플리케이션들이 작동하는 것을 본다고 해서 즉시 그 기계가 공격받고 있다고 가정해서는 안 됩니다. 동료는 단순히 다른 방식으로 일하기 시작했을 수 있습니다. 모든 작업을 개인적으로 수행하는 대신 일부 업무를 AI 에이전트에게 위임한 것입니다.

물론, 그들이 올바른 지침을 주었기를 바랍니다…