Mercury 3 - 대규모로 확장한 확산 기반 LLM

원문 발행 2026. 10. 20. 04:36원문 언어 영어AI 한국어 번역GeekNews 원문 보기

요약

본 기사는 대규모로 확장된 확산 기반 LLM(Diffusion LLM)의 잠재력과 현황을 분석합니다. 특히 속도와 비용 효율성 측면에서 기존 모델 대비 우위를 점하며, 향후 AI 시장에 큰 변화를 가져올 것으로 기대됩니다. 다만, 실제 서비스 환경에서의 배치 처리 및 추론 부담 등 기술적 과제들이 남아있습니다.

핵심 포인트

확산 기반 LLM은 속도와 비용 효율성 면에서 강점을 보임.
Diffusion Gemma 등의 사례는 성능 격차가 크다는 한계를 지적함.
대규모 운영을 위한 배치 처리 최적화가 중요한 과제로 남아 있음.
이 기술이 성공적으로 상용화된다면 기존 LLM 시장에 큰 변화를 줄 수 있음.

펠리컨 그림은 조금 독특하지만 나쁘지 않음. OpenRouter로 생성한 결과는 여기에서 볼 수 있음. Inception API를 직접 호출해 만든 다른 결과도 여기에 있음.

벤치마크를 왜 중간 설정으로 진행했는지 의문이 들지 않았음. 펠리컨도 중간 설정이 높은 설정보다 더 나음. 중간 수준을 넘어서면 추론이 오히려 출력에 악영향을 줄 수도 있음.

생성 속도는 어느 정도였나요? 이 모델의 핵심 판매 포인트가 바로 속도임.

Google이 지난해 공개한 Gemini Diffusion 데모로 사실상 아무것도 하지 않은 이유를 아직도 모르겠음. 정말 멋지고 빨랐는데 그대로 조용해짐.
몇 달 전 Diffusion Gemma도 출시했지만, 이쪽 역시 별다른 반향을 보지 못함.

Diffusion Gemma는 동급 자기회귀 모델보다 성능이 훨씬 낮았음. 두 모델 계열 사이의 격차가 일정한 수준이 아니라, 과제나 벤치마크가 어려워질수록 더 벌어지는 듯해서 특히 좋지 않았음. 대규모 운영에서는 속도 이점도 사라졌으니, 이후 소식이 뜸한 것도 놀랍지 않음.

사전 공개 논문에서는 작은 배치 크기에서 잘 작동했지만, 현재 실제 서비스 대부분은 여러 사용자의 요청을 처리하느라 배치 크기가 상당히 큼.

제대로 작동하도록 만들지 못한 것 아닐까요?

연구는 잘하지만 제품화는 형편없는 것 아닐까요?

실제 모델 크기와 학습 과정이 궁금함. 기존 LLM과 학습 방식이 어떻게 달랐을까요? 어쨌든 멋진 작업임. 여전히 비용은 많이 들겠지만, 신규 진입자도 최첨단에서 불과 몇 달 뒤처진 수준까지 따라잡을 수 있게 된 것이 놀라움.

Inception 공동 창업자 @volodia의 댓글이 신고되어 숨김 처리된 상태임. 그럴 댓글이 아닌데 이상함. 누가 복구해 줄 수 있나요?

이전 세대보다 확실히 성능이 좋아 보임. 일부러 다소 모호한 프롬프트로 UML 다이어그램용 HTML 렌더러를 만들어 달라고 했는데 결과가 인상적이었음. 이어서 질문 하나를 하고 세 번째 프롬프트에서 HTML 수정을 요청했더니 정확히 처리함.
단지 신선해서 그렇게 느낄 수도 있지만, 테마마다 서로 다르면서도 눈이 덜 피로한 색 조합을 골랐다는 점도 눈에 띔.
팀 관계자가 여기 있고 나는 Inception API를 써 본 적이 없어 질문함. 코딩 에이전트로 코드베이스 수정을 요청하면 코드를 얼마나 읽어야 하고 도구 호출은 얼마나 잘 처리하나요? 확산 방식은 작동 원리가 다르니, 큰 작업을 수행하면서 조금씩 수정할 때마다 필요한 코드 맥락의 양이 궁금함.

대형 연구소들이 확산 모델 실험을 하지 않는다면 놀라울 것 같음. 실험 중이라면, 이들이 쓸 수 있는 연산 자원이 훨씬 많다는 점에서 다른 연구소가 앞서 있다는 것도 놀라울 듯함. 물론 내 직감이 완전히 틀릴 수도 있음.

Google이 사실상 이 분야를 처음 열었음. 이제는 손을 뗀 듯한데, 표면적인 이유는 요청을 배치 처리하는 트랜스포머만큼 경제적으로 확장되지 않기 때문임.
다만 확산 모델이 계속 개선되고 Inception이 현재 속도와 가격을 유지한다면, 많은 용도에서 Flash와 Luna가 밀릴 수 있다고 봄. 확산 모델의 개선 가능성도 높아 보임.

펠리컨을 생성해 봤는데 아주 잘 나왔음. 예전 Haiku나 Sonnet 모델보다 낫고, 최신 세대보다는 약간 부족한 정도로 보임.
전반적으로 꽤 괜찮지만, 속도 면에서는 첫 토큰까지 걸리는 시간(TTFT) 이 여전히 길어 보임. 추론 부담이 얼마나 커질지도 아직 모르겠음. 규모가 커져도 잘 작동한다면 많이 사용할 생각임. 가격과 성능이 규모가 커져도 유지된다면 다른 LLM 대부분을 압도할 수도 있음. 몇 가지 작업에서는 DeepSeek만큼 저렴했음. 구독 상품이 있는지 아는 분 있나요? 수백 달러를 쓰지 않고 제대로 시험해 보고 싶음.

벤치마크를 믿을 수 있다면 상당한 진전입니다. 현재 Diffusion Gemma도 있지만, 가중치가 공개된 확산 LLM이 더 많이 나오기를 바랍니다. 만약 확산 LLM이 본격적으로 제 성능을 내기 시작한다면 꽤 큰 변화가 오지 않을까요? 처리량이 최소 10배라면 같은 하드웨어로 훨씬 많은 토큰을 생성할 수 있습니다.
추가로 저장소에 직접 적용해 보고 있는데, 지금까지는 꽤 잘 작동해서 기분 좋게 놀라고 있습니다.

적어도 OpenRouter에서는 Together, Baseten, Fireworks를 통해 제공되는 DeepSeek v4.1 Flash가 Mercury 3보다 지연 시간과 지능 모두 앞섭니다. Mercury는 첫 토큰까지 걸리는 시간이 상당히 길다는 점이 아쉽습니다.

토큰을 비선형적으로 생성하는 만큼, 이런 모델은 작동 과정을 이해하기가 더 어려운가요? 특히 모델이 무엇을 “생각”하는지 파악할 때 잠재 공간 내부가 아닌, 외부로 드러나는 추론에 의존한다는 점에서 궁금합니다.

AI 자동 생성 콘텐츠

원문 바로가기