모델을 넘어 에이전트로: Responses API에 컴퓨터 환경 구현

기존에는 특정 작업에 특화된 모델을 사용했지만, 이제는 복잡한 워크플로우를 처리하는 '에이전트'로 패러다임이 전환되고 있습니다. 단순히 프롬프트만으로는 학습된 지능의 범위 내에서만 작동할 수 있지만, 컴퓨터 환경(computer environment)을 제공하면 서비스 실행이나 API 데이터 요청 등 훨씬 광범위하고 실용적인 작업 수행이 가능해집니다.

개발자들이 에이전트를 구축할 때 겪는 문제들—임시 파일 관리, 대규모 테이블 처리, 보안이 필요한 네트워크 접근, 타임아웃 및 재시도 로직 구현—을 해결하기 위해 OpenAI는 Responses API에 컴퓨터 환경 기능을 통합했습니다. 이 시스템은 모델의 제안(단계와 명령어)을 격리된 컨테이너 환경에서 실행하며, 파일시스템과 구조화된 저장소(예: SQLite), 그리고 제한적인 네트워크 접근 권한을 제공합니다.

핵심 작동 방식은 '실행 루프(execution loop)'를 통해 이루어집니다. 모델이 파일 읽기나 API 호출 같은 액션을 제안하면, 플랫폼이 이를 실행하고 그 결과를 다음 단계의 입력으로 다시 피드백하는 구조입니다. 쉘 도구(shell tool)는 이 루프를 구현한 가장 기본적인 예시이며, 기존 코드 인터프리터가 Python에 국한되었던 것과 달리 Unix 기반의 다양한 명령어(grep, curl 등)를 사용할 수 있게 하여 유연성을 극대화했습니다.

Responses API는 모델과의 상호작용을 조정하는 오케스트레이터 역할을 합니다. 모델이 쉘 명령어를 제안하면, 이 API가 해당 명령을 컨테이너 런타임에 전달하고 그 출력을 실시간으로 스트리밍하여 모델의 다음 추론 과정에 반영합니다. 또한, 여러 명령을 동시에 실행(concurrent execution)하거나 출력 길이를 제한(bounded output)하는 기능을 통해 에이전트 루프를 빠르고 효율적으로 만듭니다.