Cloudflare clef-omni: 텍스트 생성을 하지 않는 오픈 Jev 대안

Cloudflare가 Apache 2.0 라이선스 하에 30B 멀티모달 모델인 clef-omni를 Hugging Face에 공개했습니다. 이 모델은 하이쿠조차 작성할 수 없습니다. 아무것도 쓸 수 없다는 뜻입니다. 사용자가 텍스트, 이미지, 오디오 또는 비디오와 함께 질문 목록을 제공하면, 허용된 각 답변에 대한 확률을 반환합니다. 이는 TypeSafe의 Jev에 대한 Cloudflare의 오픈 가중치(open-weight) 답변이며, Workers AI에서 입력 토큰 백만 개당 $0.15가 소요되고, 비디오 1분 분량은 약 쿼터 센트($0.25) 정도입니다.

피드에서 'Cloudflare 오픈 모델'을 보고 Llama 경쟁자를 기대했다면, 이것은 그렇지 않습니다. 저는 이 모델이 대부분의 사람들이 자체 호스팅하는 채팅 모델보다 프로덕션 환경에서 더 유용할 것이라고 생각하며, Cloudflare가 직접 제시한 벤치마크 표에서 나온 두 가지 큰 주의사항(caveats)인 추론(reasoning)과 RAG 환각 검사(RAG hallucination checks)를 제외하고는 그렇습니다.

Cloudflare clef-omni 모델의 실제 기능

model card에는 이 모델이 '30B-A3B 혼합 전문가(mixture-of-experts) 멀티모달 모델'이며, 상태와 질문 목록을 결정으로 변환한다고 명시되어 있습니다. 사용자는 컨텍스트(JSON 블롭, 지원 티켓, 스크린샷, 20초 클립 등)와 1개에서 64개의 질문을 전송합니다. 각 질문은 세 가지 유형 중 하나입니다:

• noul: 예/아니오 (yes/no)
• choice: N개의 레이블이 지정된 옵션 중 하나 선택
• score:

Cloudflare에 따르면, Cloudflare는 Qwen3-Omni의 이해력 백본(comprehension backbone)을 고정시키고 LoRA 어댑터를 훈련시켰으며, Brier 점수 보정(Brier score calibration)과 함께 레이블 평활화 교차 엔트로피(label-smoothed cross-entropy)를 사용했습니다 [announcement post]. 모델 카드에는 텍스트 생성을 대체하는 부분이 추가되었는데, 이는 백본의 최종 은닉 상태(final hidden states)를 읽고 모든 질문의 모든 옵션에 대해 점수를 매기는 작은 "결합 스키마 헤드 (joint schema head)"입니다. 저는 특히 보정 부분에 관심이 많습니다. 왜냐하면 만약 "0.85 신뢰도로 이것이 피싱이다"라는 기준치(threshold)를 설정하려면, 그 확률들이 의미를 가져야 하기 때문입니다.

Clef 대 Jev: 클라우드플레어가 이것을 구축한 이유

Clef-omni는 불과 10일 전에 출시된 제품군 중 세 번째 모델입니다. Cloudflare는 [October 1]에 Clef와 Clef-flash를 공개하여, TypeSafe의 결정 모델인 Jev가 [September 15]에 출시한 것에 대한 오픈 웨이트(open-weight) 답변으로 내놓았습니다 [Clef and Clef-flash on October 1]. Clef API는 Jev와 호환되므로, 전환한다는 것은 모델 ID를 변경하는 것을 의미합니다.

첫 번째 출시는 다소 부정적인 반응을 얻었습니다. [Traictory's roundup]에 따르면, Hacker News 스레드의 한 댓글 작성자는 (614점, 214개 댓글) 호출당 약 300 토큰을 가정하고 Jev에서는 백만 건의 결정이 약 $12.60인 반면 Clef에서는 약 $72가 될 것이라고 계산했습니다. Clef는 백만 토큰당 $0.24였던 반면, Jev는 $0.042로 거의 6배에 달하는 가격 차이가 있었습니다. 또 다른 작성자는 "공개 벤치마크는 속이기 쉽다"고 언급했습니다. r/LocalLLaMA에서는 사람들이 Cloudflare가 더 약한 오픈 Jev 변형을 대상으로 벤치마킹했다고 주장했습니다.

8일 후 Cloudflare는 Clef-flash의 가격을 $0.09에서 $0.038로 인하(이제 Jev보다 낮음)하고, Clef 서비스 제공을 SGLang으로 옮겨 중앙값 속도를 1.7배에서 2.0배 향상시켰으며, clef-omni를 출시했습니다. Clef 자체의 가격은 $0.24로 유지되었습니다. 저는 Cloudflare의 누군가가 이 스레드들을 읽었을 것이라고 확신합니다.

clef-omni 벤치마크 대 Jev: 나쁜 행부터 읽으세요

이 모든 수치는 Cloudflare가 모델 카드에서 자체적으로 실행한 Decision Index 0.2.1 스위트 기반의 자가 보고치입니다. 변경 로그에서는 이 중 일부를 추가 소수점(예: CLINC150에서 Clef 97.43)과 함께 반복하고 있습니다. 아직 아무도 독립적으로 재현하지 못했습니다.

제가 주목하는 행은 RAGTruth입니다. Clef는 RAG 출력에서 환각을 포착하는 데 79.4점을 기록했지만, clef-omni는 42.0점으로 떨어집니다. 만약 clef-omni를 저렴한

같은 날 게시된 changelog에 따르면 텍스트는 약 20ms, 동일한 21초 클립은 약 300ms가 소요된다고 합니다. 이 두 수치는 같을 수 없습니다. 제 추측으로는 서버 측 컴퓨팅과 종단 간(end-to-end) 측정 방식의 차이일 것 같은데, Cloudflare는 명시하지 않았으므로 더 느린 숫자를 기준으로 예산을 잡아야 합니다.

비용 면에서는 Workers AI 문서에 따르면 오디오는 분당 약 780 토큰, 최대 해상도(480p 기준 약 8,600)의 비디오는 분당 최대 약 15,400 토큰이 소요됩니다. $0.15/M 기준으로 볼 때, 사운드가 포함된 최고 해상도 비디오 1분은 대략 쿼터 센트(a quarter of a cent) 수준으로, 사용자 업로드 클립 전체를 스크리닝하기에 충분히 저렴합니다.

무언가를 구축하기 전에 호스팅 제한을 확인하세요: 요청당 최대 이미지 4개, 오디오 클립 4개, 비디오 2개까지 가능하며, 비디오 클립은 최대 60초, 오디오 클립은 300초, 그리고 오디오+비디오 합산으로 16 MiB가 제한됩니다. 원격 URL도 허용되지 않으므로 미디어는 요청에 base64로 임베딩되어야 합니다.

Digital Applied에서 언급된 또 다른 주의사항은 10월 11일 기준으로 OpenRouter의 카탈로그에 clef-omni는 텍스트와 이미지 입력만 나열되어 있다는 것입니다. 오디오나 비디오가 필요하다면 바로 Workers AI를 이용해야 합니다.

Workers AI에서 clef-omni 호출하기

Worker를 사용하면 한 번의 env.AI.run 호출로 충분합니다:

const result = await env.AI.run("@cf/cloudflare/clef-omni", {
  model: "clef-omni",
  state: "Checkout has been failing for every customer for the last hour.",
...

문서는 이를 전체 fetch 핸들러로 감싸줍니다. result.answers는 동일한 ID를 키로 사용하여 반환되며, urgent에 대한 확률, team에 대한 옵션별 확률을 가진 선택된 팀, 그리고 심각도(severity)에 대한 확률 가중치 점수가 포함됩니다.

또는 bearer 토큰을 사용하여 https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/cloudflare/clef-omni에 대해 curl로 요청할 수 있습니다. 본문은 동일합니다.

transformers를 이용해 clef-omni 로컬 실행 방법

큰 GPU를 준비하세요. 백본(backbone)이 bfloat16에서 약 64GB의 GPU 메모리가 필요하다고 명시되어 있으며, H200 단일 장치에서 torch 2.11 및 transformers 5.10.2로 테스트되었습니다. 최소 80GB 카드를 계획하세요. 소비자용 24GB GPU로는 bf16으로 처리할 수 없습니다.

pip install "torch==2.11.*" "transformers==5.10.2" huggingface_hub pillow av

pillow는 이미지를, av는 오디오 및 비디오를 처리합니다. 그런 다음 모델 카드에서 가져온 코드에 따라:

import sys
import torch
from huggingface_hub import snapshot_download
...

이 스니펫은 sys.path.insert(0, path)를 호출한 후 다운로드된 리포지토리에서 joint_schema_model을 임포트합니다. 이는 플래그 없이도 마치 trust_remote_code=True와 같은 신뢰 결정이 필요한 상황입니다. 실행하기 전에 joint_schema_model.py를 읽고, 코드가 변하지 않도록 snapshot_download("Cloudflare/clef-omni", revision="<commit-sha>")로 리비전을 고정하는 것이 좋습니다.

clef-omni를 사용해야 할까요?

제 의견을 말씀드리자면, 티켓 라우팅(routing), 업로드 태깅(tagging), 콘텐츠 중재(moderating) 또는 에이전트가 어떤 도구를 호출할지 결정하는 경우에, 입력의 일부가 스크린샷, 음성 메모 또는 짧은 클립인 경우 clef-omni가 현재 가장 실용적인 오픈 옵션입니다. Apache 2.0 라이선스이며, 확률이 보정되어 있고, 파싱해야 할 출력이 없으며, 비디오 비용은 분당 약 사분의 일 센트입니다.

만약 결정에 실제 추론(reasoning)이 필요하거나 환각(hallucination)을 위해 RAG 답변을 확인하는 경우라면, 공개된 수치들은 다른 곳을 찾아보라고 말합니다. 그리고 여기서

저는 Cloudflare가 왜 이런 일을 하는지 더 궁금합니다. 블로그에 따르면, 이 회사는 문서 저장소(docs repo)의 스팸 감지, 플러그인 라이브러리의 피싱 방지, PII(개인 식별 정보) 스캔 및 악성 도메인 탐지에 Clef를 내부적으로 사용한다고 합니다. 따라서 CDN이자 보안 기업인 Cloudflare가 분류(classification)는 인프라라고 판단하고, 이를 TypeSafe로부터 임대하기를 원하지 않는 것입니다.

그래서 여러분의 생각은 어떻습니까? Cloudflare가 자체 모델을 훈련시키는 이유는 다른 사람들의 것을 호스팅하는 것이 모트(moat)가 없는 상품성 사업이기 때문인가요, 아니면 보안 제품에 통제할 수 있는 분류기가 필요하기 때문일까요? 그리고 실제로 누군가가 프로덕션 환경에서 Jev를 Clef로 교체한 사례가 있나요?

출처 (Sources)

• Cloudflare/clef-omni model card
• Cloudflare 블로그: Clef-omni 소개
• Workers AI 변경 로그, 2026-10-09
• Workers AI 문서: clef-omni
• The Register: Cloudflare, Jev를 능가하려 하다
• Traictory: Clef 출시 반응
• Digital Applied: 오디오 및 비디오 결정을 위한 Clef Omni
• Let's Data Science: TypeSafe AI, Jev 출시