본문으로 건너뛰기

© 2026 Molayo

Dev.to헤드라인2026. 06. 08. 17:30

SoloEngine v0.2.1 출시 — LLM Provider 아키텍처 리팩토링, 중단 메커니즘 및 스트리밍 출력 최적화

요약

SoloEngine v0.2.1 업데이트를 통해 LLM 제공자 아키텍처 리팩토링과 스트리밍 출력 최적화가 이루어졌습니다. SubAgent 토큰 추적, 프로젝트 격리 기능이 추가되었으며, 중단 메커니즘 개선을 통해 응답 지연 시간을 단축했습니다.

핵심 포인트

  • SubAgent별 실시간 토큰 사용량 추적 기능 도입
  • agentic_flow_id를 통한 샌드박스 파일 시스템 격리
  • LLM 중단 메커니즘 개선으로 응답 지연 시간 감소
  • 스트리밍 콜백 최적화로 실시간 증분 데이터 푸시 지원
  • Xiaomi MiMo 모델 지원 및 설정의 외부 JSON 추출

[v0.2.1] - 2026-06-03

🚀 추가 사항 (Added)

  • SubAgent 토큰 추적 (SubAgent Token Tracking) — 이제 SubAgent 완료 이벤트에 토큰 사용량 데이터가 포함됩니다. 프론트엔드 Agent 그룹 뷰에서 Agent당 실시간 토큰 소비량을 표시합니다.
  • 프로젝트 격리 (Project Isolation) — 모든 파일 작업 엔드포인트가 agentic_flow_id 파라미터를 수용하여, 흐름 인스턴스(flow instance)별로 샌드박스 파일 시스템을 격리합니다.
  • MiMo 모델 지원 (MiMo Model Support) — 새로운 LLM 제공자(LLM provider)로 Xiaomi MiMo를 추가(LLMProvider.MIMO)하였으며, OpenAI 호환 인터페이스를 통해 구현되었습니다.

🔧 개선 사항 (Improved)

  • LLM 중단 메커니즘 (LLM Stop Mechanism) — 개별 모델 레이어에서 차단(blocking) 방식인 await response.aclose() 호출을 제거했습니다. 이제 취소 시 즉시 CancelledError를 발생시켜 정리(cleanup) 작업을 상위 레이어로 위임함으로써 중단 응답 지연 시간(stop-response latency)을 줄였습니다.
  • LLM 스트리밍 콜백 (LLM Streaming Callbacks)stream_callback이 더 이상 루프가 끝날 때까지 청크(chunks)를 버퍼링하지 않습니다. 이제 증분 델타(incremental deltas)를 실시간으로 푸시하여, 중간 출력이 도착하는 즉시 프론트엔드에 보이도록 합니다.
  • 독립형 제공자 설정 (Standalone Provider Configuration) — LLM 제공자 설정이 하드코딩된 상수에서 data/config/llm_providers.json으로 추출되었습니다. 새로운 get_provider_config() 인터페이스는 커스텀 제공자, 기본 모델 및 모델 목록을 지원합니다.
  • 통합 모델 생성 인터페이스 (Unified Model Creation Interface) — 이제 모든 제공자가 client_kwargs를 통해 연결 파라미터를 전달합니다. frequency_penaltypresence_penalty 지원이 추가되었습니다.
  • 중앙 집중식 LLM 구성 (Centralized LLM Configuration) — 캔버스(canvas)에 중앙 집중식 LLM 관리를 위한 configMap이 도입되었습니다. 컴포넌트는 스토어(store)에서 설정을 읽어옵니다. /providers API 엔드포인트는 이제 제공자 데이터와 함께 color 필드를 반환합니다.
  • 스트리밍 데이터 업데이트 (Streaming Data Updates) — 스트리밍 출력이 이제 직접적인 setState 호출 대신 requestAnimationFrame을 통해 UI 업데이트를 배치(batch) 처리합니다. 중복 블록 감지 기능이 추가되었습니다. useRunWebSocket은 활성화된 중단 신호(stop signals)를 준수합니다.
  • 메시지 및 파일 변경 관리 (Message & File-Change Management) — 실행 취소(Undo) 작업이 통합된 경로를 따르며, 관련 file_changes 및 블롭(blob) 레코드를 동시에 정리합니다.

CAS 카운팅 제거 — 이제 정리(cleanup) 작업이 참조 관계(reference relationships)를 직접 따릅니다.

  • Canvas Interactions (캔버스 상호작용) — Canvas 커넥터에 화살표 마커가 렌더링되어 흐름 방향이 명확하게 표시됩니다.
  • Run Panel (실행 패널) — SubAgent 그룹이 개선된 중첩 레이아웃(nested layout)과 함께 토큰 수(token counts)를 표시합니다. 파일 브라우저는 프로젝트를 전환할 때 상태를 자동으로 초기화합니다.
  • Project Management (프로젝트 관리)get_recent_projectsagentic_flow_id로 직접 필터링되어, 데이터 필드 매핑 문제를 수정했습니다.

🗑️ 제거됨 (Removed)

  • CAS 참조 카운팅(reference-counting) 메서드 (ref_count, decrement_ref_count, cleanup_orphan_blobs 등)
  • SoloAgentConfig.memory 필드
  • frontend/src/config/providerDefaults.ts — 해당 기능은 이제 canvasStore.configMap에서 처리됩니다.
  • frontend/src/store/runProjectStore.tsrunPanelStore.ts로 병합되었습니다.
  • LLMFactory의 하드코딩된 모델 목록, 기본 모델 매핑 및 중복된 문자열 상수

🤝 참여하기 (Join Us)

우리는 SoloEngine과 에이전틱 AI (Agentic AI)에 대한 열정을 공유하는 뜻이 맞는 기여자(contributors)를 찾고 있습니다. 오타 수정부터 전체 기능 구현까지, 모든 기여가 SoloEngine을 더 발전시킵니다.

📝 기여 가이드 (Contributing Guide) · 💬 토론 (Discussions) · 📧 문의하기 (Contact Us)

AI 자동 생성 콘텐츠

본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0