PDF를 읽는 작업은 에이전트가 사용하는 Frontier-Model 토큰 비용을 발생시키지 않아야 합니다.

요약

에이전트가 PDF 분석이나 이미지 설명 같은 전처리 작업을 대규모 모델에 의존하여 토큰 비용을 지불하는 문제를 해결합니다. SIE(Superlinked Inference Engine)는 MCP edge를 제공하여, 클라이언트가 문서 파싱, 객체 탐지 등 복잡한 작업을 자체 클러스터로 오프로드할 수 있게 합니다. 이를 통해 에이전트의 토큰 사용량을 절감하고 시스템 효율성을 높입니다.

핵심 포인트

• 문서: PDF, Office 파일 등을 LightOnOCR 등으로 마크다운 변환 가능.
• 이미지: Florence-2 등 모델로 객체 탐지 및 시각적 질문 답변 지원.
• 구조화된 출력: GLiNER2 등을 활용하여 스키마가 유효한 JSON 추출.
• 비용 절감: MCP edge를 통해 에이전트 토큰 비용을 자체 클러스터에서 처리.