【Python × MT5】일일 손실 -5% 시 즉시 실격인 프로프펌(FTMO)에 도전! 자율형 AI 헤지펀드에서 파생시킨 '미국 주식

지난주, 개인적으로 개발한 자율형 AI 헤지펀드 『Lumina AI』의 아키텍처 해설 기사를 Qiita에 게시했고, 매우 감사하게도 많은 반향과 관심을 받았습니다.

본래의 Lumina AI는 **'미국 주식 및 일본 주식 현물 스윙 트레이딩(수일~수주 보유)'**을 주요 전장으로 하며, 5명의 AI 투자자(워렌 버핏, 벤저민 그레이엄, 캐시 우드, 리스크 관리자, CIO)에 의한 멀티 에이전트 합의와, FRED 순유동성 및 Alpha158 수리 인자, Rust 상주 감시견을 통한 철벽 방어 시스템을 특징으로 합니다.

하지만 운용을 계속하면서 하나의 강력한 야망이 솟아올랐습니다.

'이 자율 AI의 두뇌와 방어 시스템을 극한까지 날카롭게 다듬는다면, 전 세계 프로 트레이더들이 치열하게 경쟁하는 '프로프펌(자기 자본금 없이 수천만 원 규모의 운용 자금을 획득하는 시험)'을 완벽하게 자동화로 돌파할 수 있지 않을까?'

이에 이번에는 본래의 퀀트 설계 사상을 기반으로, 일일 드로우다운 -5% 시 즉시 실격이라는 극한의 제약 조건 하에서 싸우는 **'미국 주식 데이트레이딩 특화 AI(Lumina-Prop)'**를 처음부터 설계하고 구현했습니다.

본 기사에서는 Linux VPS 환경에서 MetaTrader 5 (MT5)와 Python을 통합하여, Level 2 호가 정보(DOM) 스나이퍼 및 수많은 까다로운 난관(시간 외 거래 거부, 스프레드 급확대, RPyC 직렬화 장애 등)을 돌파한 아키텍처의 전반적인 모습을 공유합니다.

프로프펌(Proprietary Trading Firm)이란 트레이더에게 심사(챌린지 테스트)를 부과하고, 합격한 트레이더에게 회사의 운용 자금(10만 달러200만 달러 등)을 맡겨 이익의 8090%를 보상으로 분배하는 회사입니다.

그중에서도 세계 최대 규모인 'FTMO' 등이 유명하지만, 그 합격 규칙은 인간의 정신과 알고리즘의 내구성을 산산조각 낼 정도로 엄격합니다.

Lumina와 Lumina-Prop 비교: 트레이딩 전략 및 기술적 차이점

시장 미세 구조 이론 (Market Microstructure)과 OFI (주문 흐름 불균형):
퀀트 논문(Cont, Kukanov & Stoikov 등)에서 실증된 호가 정보의 수리 모델을 채택했습니다. 단순히 가격의 상하 움직임이 아니라, **'매수 호가와 매도 호가의 출입 속도 (호가 업데이트 압력)'**를 실시간으로 측정하여, 대형 기관이 어느 방향으로 매집(또는 투매)하고 있는지를 순식간에 판정합니다.

기관 투자자 실행 벤치마크 (VWAP) 동조화:
거래량 가중 평균 가격(VWAP)을 기준으로 삼아, 5분봉 레벨에서의 돌파(Breakout) 및 되돌림(Pullback/지지-저항)을 포착합니다.

팻테일 점프 리스크 근절 (한국 시간 04:45 강제 청산):
데이트레이딩에서 가장 무서운 것은, 포지션을 보유한 다음 날 아침에 발생하는 '실적 발표나 지정학적 리스크로 인한 시초가 대폭 하락(Gap Down)'입니다. Lumina-Prop은 미국 시장 마감 15분 전에 모든 포지션을 강제 청산하고, 보유 잔고를 현금 100%로 되돌림으로써 오버나이트 리스크를 수리적으로 제로화합니다.

Lumina-Prop은 본가 Lumina (IBKR 현물 스윙)과는 프로세스, DB, 설정 파일을 완전히 분리하여 Linux VPS 상의 독립 체임버에서 24시간 자율 가동됩니다.

+---------------------------------------------------------------------------------+
| Linux VPS (Ubuntu) |
| |
... 

MT5 공식 Python 라이브러리(MetaTrader5)는 Windows 네이티브 C 확장으로 제공되어, Linux 환경에서는 import MetaTrader5가 직접 작동하지 않습니다.

이에 따라, Docker 컨테이너 내에서 Wine을 경유하여 Windows 버전 MT5를 구동하고, 컨테이너 내부의 Wine Python 프로세스에서 rpyc.classic 서버(포트 8001)를 띄워, 호스트 측 네이티브 Linux Python으로부터 RPC를 통해 MT5 API를 투명하게 조작하는 아키텍처를 채택했습니다.

데이트레이딩에서는 15분봉이나 일봉 지표만 보고 진입하는 것은 자살 행위입니다. Lumina-Prop은 cis 씨의 수급 사상과 퀀트의 OFI (Order Flow Imbalance: 주문 흐름 불균형)를 융합시킨 스나이퍼 로직을 탑재하고 있습니다.

롱(매수) 조건: 5분봉이 VWAP를 강하게 돌파(또는 반발) + MT5의 매수 호가 거래량이 매도 호가 거래량을 압도함 (OFI > +18.0) + 대규모 아이스버그 매수 물량 감지
숏(매도) 조건: 5분봉이 VWAP를 하방 돌파 + 매도 호가의 압력 (OFI < -18.0) + 대규모 노출 물량의 철회

# 레벨 2 DOM(호가창 정보)에서 미체결 불균형(Imbalance)을 계산하는 로직 발췌
def get_mt5_order_book(self, symbol: str) -> dict:
mt5 = self._get_mt5_instance()
...

진입 후에는 LLM의 추론 주기(15분)를 기다리지 않고, **10초 간격의 고속 루프(Watchdog Sentinel)**가 작동합니다.

ATR 기반 동적 스탑로스(Trailing Stop): 미실현 이익이 쌓일수록 스탑라인을 자동으로 올리고 손익분기점(建値)을 확보합니다.

• 04:45 JST (미국 장 마감 15분 전) 무조건 전체 청산: 데이트레이딩의 기본 원칙으로서, **포지션을 다음 날로 이월하는 것(Overnight)**은 100% 금지됩니다. 장 마감 직전 스프레드 확대와 결산/야간 선물 갭으로 인한 일일 실격 리스크를 물리적으로 근절했습니다.

시그널 계산에 사용되는 외부 데이터 소스와 실제로 체결시키는 MT5 측의 호가 사이에 시간 지연이나 괴리가 존재하는 경우, 진입하는 순간부터 마이너스 상태로 시작합니다.

주문 직전에 MT5의 최신 호가를 가져와 **시그널 가격과의 괴리가 0.15% (15 bps)**를 초과할 경우에는 발주를 즉시 폐기(Abort)하는 방벽을 배치했습니다.

여기서가 본 기사에서 가장 공유하고 싶었던 **'실제로 구동해 봐야만 깨닫는 현실적인 함정'**입니다.

시장 개장 전 (22:30 JST 이전)의 호가를 보고 시장가 주문(Market Order)을 브로커에게 전송했을 때, 거래소로부터 즉시 거부되었습니다.

미국 거래소에서는 프리마켓 등 시간 외 세션에서는 **'지정가 주문(LIMIT)이면서 Outside RTH (일반 거래 시간 외 플래그=True)'**여야만 접수됩니다.

더 나아가, 재시도 루프가 폭주하여 이중 발주를 일으키는 것을 방지하기 위해 클라이언트 주문 ID(UUIDv5)를 이용한 서버 측의 Idempotency Guard를 결합했습니다.

미국 시장이 개장한 직후 몇 분 동안은 마켓 메이커의 호가가 정해지지 않아 Bid/Ask 스프레드가 평소의 수 배에서 십여 배(30~50 bps 이상)로 확대됩니다.

여기서 진입하면 슬리피지만으로 큰 손실을 보기 때문에, **'개장 후 5분간 (09:30~09:35 ET)은 진입을 완전히 중단하는 골든 윈도우 제한'**과 **'실시간 스프레드 > 0.35%일 경우 발주 차단 가드'**를 구현했습니다.

Linux 측의 Python에서 RPyC를 통해 mt5.order_send(request)를 호출했을 때, 다음과 같은 알 수 없는 에러로 거부되었습니다.

(-2, 'Unnamed arguments not allowed')

조사한 결과, RPyC를 통해 Python 딕셔너리 {"action": ...}를 전달하자 Wine 측의 C 확장(MetaTrader5.pyd) 내부의 PyDict_CheckExact가 '순수한 CPython 네이티브 딕셔너리가 아니라 RPyC의 Proxy netref 객체'라고 판단하여 거부하고 있었습니다.

해결책으로, Wine Python 측에서 json.loads()를 직접 eval 실행시켜, Wine 프로세스 내에서 100% 순수한 CPython 딕셔너리를 재구축하여 전달함으로써 완벽하게 해결했습니다.

# RPyC의 netref 딕셔너리 거부 회피를 위한 네이티브 CPython 딕셔너리 재구축
clean_json_str = json.dumps(request)
ret = rpyc_conn.eval(f"_mt5.order_send(_json.loads({repr(clean_json_str)}))")

현재, Lumina-Prop은 VPS 위에서 systemctl 데몬으로 구동되며, FTMO의 무료 트라이얼($100,000 데모 환경)을 통해 밤낮으로 포워드 테스트를 진행하고 있습니다.

스윙 운용(Lumina 본가 / IBKR 현물): 엄선된 종목을 중장기적으로 천천히 키워나가는 '성장의 요새' -
데이 트레이딩 운용(Lumina-Prop / FTMO): 일일 손실을 엄격하게 봉쇄하는 동시에, 자기 자본에 리스크 없이 수익을 흡수하는 '공격적인 창'

이 두 개의 독립된 AI 시스템이 완성됨으로써, 포트폴리오의 리스크 분산과 수익 기회가 극적으로 진화했습니다.

이번에 구현한 자율형 AI 헤지펀드의 핵심 설계 및 코드군은 GitHub에서 오픈 소스(CC BY-NC 4.0: 비영리 한정 라이선스)로 공개하고 있습니다.

'AI × 금융공학', '개인 개발을 통해 프로프펌에 도전하는 알고리즘 설계'에 관심 있는 엔지니어분들께 본 글이 조금이라도 참고가 되기를 바랍니다. 만약 재미있으셨다면, GitHub의 Star나 Qiita의 좋아요/스토리를 남겨주시면 큰 힘이 될 것 같습니다!