Mistral Medium 3.5 128B

Mistral Medium 3.5는 당사의 첫 번째 플래그십 병합(merged) 모델입니다. 이는 256k 컨텍스트 창을 가진 밀집(dense) 128B 모델로, 단일 가중치 세트로 명령어 수행(instruction-following), 추론(reasoning), 코딩을 처리합니다. Mistral Medium 3.5는 이전 버전인 Mistral Medium 3.1과 Le Chat의 Magistral을 대체하며, 당사의 코딩 에이전트 Vibe에서는 Devstral 2를 대체합니다. 구체적으로, 새로운 통합 모델에서 명령어(instruct), 추론 및 코딩 작업에 대해 이전에 출시된 모델들보다 향상된 성능을 기대할 수 있습니다.

추론 노력(Reasoning effort)은 요청별로 구성 가능하므로, 동일한 모델이 간단한 채팅 답변부터 복잡한 에이전트 실행까지 처리할 수 있습니다. 또한, 가변 이미지 크기와 종횡비(aspect ratios)를 처리하기 위해 비전 인코더(vision encoder)를 처음부터 훈련했습니다.

자세한 정보는 블로그에서 확인하세요.

주요 특징 (Key Features)

Mistral Medium 3.5는 다음과 같은 아키텍처 선택 사항을 포함합니다:

• 밀집(Dense) 128B 파라미터.
• 256k 컨텍스트 길이.
• 멀티모달 입력: 텍스트와 이미지 입력을 모두 수용하며, 출력은 텍스트입니다.
• 명령어 및 추론 기능: 함수 호출(function calls) 지원 (요청별로 추론 노력 구성 가능).

Mistral Medium 3.5는 다음과 같은 기능을 제공합니다:

• 추론 모드 (Reasoning Mode): 빠른 즉시 응답 모드와 추론 모드를 전환할 수 있으며, 요청 시 테스트 시간 컴퓨팅(test-time compute)을 통해 성능을 향상시킵니다.
• 비전 (Vision): 텍스트 외에도 이미지를 분석하고 시각적 콘텐츠를 기반으로 통찰력을 제공합니다.
• 다국어 (Multilingual): 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 포르투갈어, 네덜란드어, 중국어, 일본어, 한국어, 아랍어를 포함하여 수십 개의 언어를 지원합니다.
• 시스템 프롬프트 (System Prompt): 강력한 준수 및 시스템 프롬프트 지원.
• 에이전트 기능 (Agentic): 네이티브 함수 호출(native function calling) 및 JSON 출력을 갖춘 최고 수준의 에이전트 기능을 제공합니다.
• 대형 컨텍스트 창: 256k 컨텍스트 창을 지원합니다.

본 모델은 수정된 MIT 라이선스 (Modified MIT License)에 따라 출시됩니다. 이는 대규모 수익을 내는 기업을 제외하고 상업적 및 비상업적 사용 모두에 대한 오픈 소스 라이선스입니다.

권장 설정 (Recommended Settings)

• 추론 노력 (Reasoning Effort):
  • 'none' → 추론 사용 안 함
  • 'high' → 추론 사용 (복잡한 프롬프트 및 에이전트 사용에 권장) `reasoning_effort=