Make Agent Defeat Agent: LLM 기반 에이전트의 Taint-Style 취약점 자동 탐지

@inproceedings{liu2025make,
title={Make Agent Defeat Agent: Automatic Detection of {Taint-Style} Vulnerabilities in {LLM-based} Agents},
author={Liu, Fengyu and Zhang, Yuan and Luo, Jiaqi and Dai, Jiarun and Chen, Tian and Yuan, Letian and Yu, Zhengmin and Shi, Youkun and Li, Ke and Zhou, Chengyuan and others},
... 

DB_HOME = '/path/to/database'
arg_dbname = 

다음으로 에이전트 스레드에 다음 코드를 추가하세요. (다중 스레드 애플리케이션의 경우, 이 코드는 에이전트가 실행되는 스레드에 추가해야 합니다.)

예를 들어, `/app/playground/UIapp.py`에 코드를 추가하세요.

마지막으로 대상 애플리케이션을 재시작하고 **40초 동안 기다리세요**. (대상 애플리케이션 시작 후 과도한 오버헤드를 방지하기 위해, 우리의 계측(instrumentation)은 처음 40초 동안 비활성 상태로 유지됩니다.)

- SMT-solver 설치 (Z3)

py-conbyte 환경 설정

- 현재 가상 환경을 종료합니다.
conda deactivate

- Miniconda를 사용하여 Python 3.7.3 가상 환경 생성:
conda create -n py373 python=3.7.3

- 가상 환경에 진입하고 Python 주소를 얻습니다:
conda activate py373

- pipenv 설치:
pip install pipenv

- py-conbyte 디렉터리로 이동하여 필요한 가상 환경을 설치합니다.
`cd py-conbyte pipenv shell`

- 이 환경에 필요한 패키지를 설치합니다.
conda activate py373 pipenv install

- 이 가상 환경에서 나갑니다.
`exit conda deactivate`

- agentfuzz의 가상 환경에 진입합니다.
conda activate py31012

`./config/__init__.py` 파일에 `OPENAI_API_BASE`와 `OPENAI_API_KEY`를 채워 넣으세요.

대상 에이전트에게 **메시지를 보내는 방법**을 알려주는 스크립트를 `./poc` 아래에 만드세요. 
예를 들어, `./poc/TaskWeaver/poc.py`:

이 코드는 단순히 브라우저를 열고, 메시지를 타이핑한 후 버튼을 클릭하여 에이전트에게 전송하는 역할을 합니다.

`./poc/poc_factory.py` 파일을 열고 `factory` 딕셔너리에 항목을 추가하세요.

애플리케이션 이름과 에이전트 이름은 원하는 어떤 이름이든 사용할 수 있습니다. 예를 들어, "Taskweaver"와 "CodeInterpreter"입니다.

`MetaData`의 `call_chain`은 `oracle.json`에 있는 목표 호출 체인(target call chain)입니다.

`batchmain.py`를 실행할 때는 `MetaData`의 `call_chain`이 어떤 내용이어도 상관없습니다. 왜냐하면 모든 호출 체인을 순회하기 때문입니다. 오직 `main.py`를 실행할 때만 `MetaData`의 `call_chain`을 채워야 합니다.

`MetaData`의 `container_name`은 애플리케이션이 실행되는 도커(docker)가 무엇인지를 의미합니다. 예를 들면 다음과 같습니다:

그런 다음, `batchmain.py`에서 명령어와 호출 체인 파일 경로를 수정하십시오. 예를 들면 다음과 같습니다:

이를 통해 우리의 도구가 모든 호출 체인을 순회하고, `poc.TaskWeaver.CodeInterpreter.poc.connect_with_auth`를 통해 목표 에이전트에 프롬프트를 보내 잠재적인 취약점을 탐지할 수 있게 됩니다.

다음 명령어를 실행하기만 하면 됩니다:

`python3 batchmain.py`

그리고 결과는 명령어 줄과 `./log`에 표시됩니다.

다음 출력을 본다면, 호출 체인이 트리거되었으며 취약점일 수 있다는 의미입니다.