B9109: mtp 및 mmproj를 위한 선제적 수정 — 곧 수정될 예정인가요? 그런 것 같습니다
요약
최근 커밋들을 분석한 결과, MTP와 mmproj 간의 충돌 문제를 해결하기 위해 시스템 전반에 걸친 선제적 수정 작업이 진행되고 있는 것으로 보입니다. 특히 draft context를 통해 이미지 처리를 가능하게 하고, 멀티모달(mmproj) 핸들러 및 병렬 드래프트 지원 기능을 개선하는 것이 핵심입니다. 이러한 변화들은 MTP와 mmproj가 함께 원활하게 작동하도록 시스템을 집중적으로 개편하고 있음을 시사합니다.
핵심 포인트
- draft context를 활용하여 이미지 처리가 가능해져, 기존의 mmproj + MTP 충돌 문제가 해결될 것으로 예상됩니다.
- 멀티모달(mmproj) 핸들러에 대한 draft processing 수정은 시스템이 해당 충돌 문제를 인지하고 개선을 목표로 하고 있음을 보여줍니다.
- 병렬 드래프트 지원 기능 추가는 MTP가 대규모 환경에서 안정적으로 작동하기 위한 필수적인 인프라 구축입니다.
- 이 세 가지 주요 변경 사항들은 MTP와 mmproj의 통합적이고 안정적인 작동을 위해 집중적으로 추진되고 있습니다.
요약 :
spec : draft context를 통해 이미지를 처리합니다 — 이는 mmproj + MTP 충돌(crash) 문제를 직접적으로 해결합니다. 이전에는 이미지(mmproj)를 speculative/draft context를 통해 전혀 처리할 수 없었습니다. 이번 커밋은 해당 기능을 추가합니다. 이것이 현재 진행 중인 실제 수정 사항입니다.
server : mtmd draft processing 수정 — mtmd는 멀티모달(multimodal, mmproj) 핸들러입니다. 멀티모달에 대한 draft processing을 명시적으로 수정한다는 것은 그들이 충돌 문제를 인지하고 있으며 이를 목표로 하고 있음을 의미합니다.
spec : parallel drafts 지원 — 이는 여러 개의 draft 모델을 동시에 실행하기 위한 인프라로, 병렬 슬롯(parallel slots)을 통해 MTP가 대규모로 제대로 작동하기 위해 필요합니다.
멀티모달 draft 수정, parallel draft 지원, 그리고 draft context를 통한 이미지 처리라는 이 세 가지의 조합은, 이것이 MTP + mmproj를 함께 작동시키기 위한 집중적인 추진임을 시사합니다. PR #22673이 머지않아 나올 수도 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기