AI Gateway의 Inkling Small은 Claude Code 사용자에게 조절 가능한 사고 노력(thinking effort)을 갖춘 비용 효율적인 코딩 에이전트를 제공합니다. CLI 설정을 통해 연결할 수 있습니다.

핵심 요약 (Key Takeaways)

• AI Gateway의 Inkling Small은 Claude Code 사용자에게 조절 가능한 사고 노력(thinking effort)을 갖춘 비용 효율적인 코딩 에이전트를 제공합니다.
• CLI 설정을 통해 연결할 수 있습니다.

변경 사항 — Inkling Small이 AI Gateway에 출시되었습니다

Thinking Machines는 이제 Vercel의 AI Gateway를 통해 사용할 수 있는 Inkling Small을 출시했습니다. 이 모델은 전체 Inkling 모델의 약 4분의 1 크기와 연산 비용으로 그에 필적하는 추론(reasoning) 성능을 제공합니다. AI Gateway를 통해 라우팅하는 Claude Code 사용자에게 이는 에이전트 기반 코딩(agentic coding), 도구 사용(tool use), 시각적 작업(visual tasks)을 위한 새롭고 저렴한 옵션이 생겼음을 의미합니다.

AI SDK에서 model을 thinkingmachines/inkling-small로 설정하여 액세스할 수 있습니다. 이 모델은 조절 가능한 사고 노력(controllable thinking effort)을 지원합니다. 즉, 필요할 때는 추론 깊이(reasoning depth)를 높이고, 속도와 낮은 비용을 원할 때는 낮출 수 있습니다.

사용자에게 주는 의미 — 비용 효율적인 에이전트 기반 코딩

만약 AI Gateway를 통해 Claude Code를 실행한다면(중앙 집중식 로깅, 폴백(fallbacks), 데이터 보존 제로(zero data retention)를 원한다면 반드시 사용해야 합니다), Inkling Small은 강력한 보조 모델이 됩니다. 이는 Claude의 코딩 강점을 대체하는 것이 아니라, 다음과 같은 작업에 뛰어난 능력을 발휘하는 유능한 제너럴리스트(generalist)입니다:

• 추론 중심 작업 (Reasoning-heavy tasks): 일반적으로 대규모 모델에 비용을 지불해야 했던 작업들
• 도구 사용 및 함수 호출 (Tool use and function calling): 모델이 에이전트 루프(agentic loops)에서 잘 버텨줍니다.
• 시각적 문서 분석 (Visual document analysis): Inkling Small은 이미지를 프로그래밍 방식으로 자르고(crop), 확대(zoom)하고, 검사(inspect)할 수 있어 코드베이스 내의 차트, 다이어그램, 스크린샷 처리에 유용합니다.

조절 가능한 사고 노력(thinking effort)은 이 모델의 핵심 기능(killer feature)입니다. 빠른 린팅(linting)이나 포맷팅(formatting) 작업을 위해서는 "minimal"로 설정하고, 복잡한 디버깅(debugging) 세션에서는 "maximum"으로 설정할 수 있습니다. 이를 통해 모델을 전환하지 않고도 작업당 비용을 최적화할 수 있습니다.

지금 바로 시도해 보세요 — Inkling Small을 Claude Code에 연결하기

1. 코딩 에이전트(coding agents)를 위한 AI Gateway를 아직 설정하지 않았다면 설정하세요:

   vercel ai-gateway coding-agents setup

1. 에이전트가 thinkingmachines/inkling-small을 모델로 사용하도록 구성하세요. Claude Code 설정 또는 에이전트 설정에서 다음과 같이 지정합니다:

   {
     "model": "thinkingmachines/inkling-small",
     "zeroDataRetention": true
...

1. 추론 깊이(reasoning depth)를 위한 파라미터를 추가하여 사고 노력 제어(thinking effort control)를 테스트하세요. 정확한 API는 다를 수 있지만, 이 모델은 최소(minimal)에서 최대(maximum)까지의 추론 범위를 지원합니다.

2. 시각적 작업(문서 스크린샷, UI 목업, 다이어그램)의 경우, Inkling Small의 프로그래밍 방식의 크롭(cropping) 및 줌(zooming) 기능 덕분에 작은 세부 사항에 집중할 수 있습니다. 이는 특정 오류 메시지나 차트 영역에 대해 질문할 때 유용합니다.

3. AI Gateway의 대시보드를 통해 비용을 모니터링하세요. Gateway는 추가 마진 없이 제공업체의 가격을 그대로 전달하므로, 요청당 정확히 얼마를 지출하고 있는지 확인할 수 있습니다.

이것이 Claude Code 사용자에게 중요한 이유

Claude Code 생태계는 Anthropic의 모델을 넘어 확장되고 있습니다. AI Gateway는 이미 여러 제공업체(providers)를 지원하고 있으며, Inkling Small은 특정 니치(niche) 시장을 채워줍니다. 즉, 에이전트 기반 코딩(agentic coding)에 능숙하면서도 더 작고 저렴한 추론 모델입니다. 프로토타이핑을 하거나 빠르게 반복 작업을 수행하는 경우, 이는 스마트한 폴백(fallback) 또는 보조 모델이 될 수 있습니다.

데이터 제로 보관(Zero Data Retention)은 토글을 켜면 기본적으로 적용됩니다. 이는 민감한 코드베이스를 다루는 팀에게 중요합니다. AI Gateway는 각 요청 후에 프롬프트(prompt)와 응답(response)을 삭제하는 제공업체로만 라우팅(route)합니다.

향후 전망

Inkling Small은 아직 초기 단계이며, Claude Code 워크플로(workflow) 내에서의 역할은 계속 진화할 것입니다. Thinking Machines가 업데이트를 출시하고 모델이 성숙해짐에 따라, 복잡한 에이전트적 작업(agentic tasks)에서 전체 Inkling과의 격차를 줄여나갈 것으로 기대됩니다. 남은 의문은 Anthropic이 자체 소형 모델 옵션들을 출시했을 때, Inkling Small이 어떻게 비교될 것인가 하는 점입니다. 현재로서는 Inkling Small이 AI Gateway 모델 로테이션(rotation)에 포함될 만한 견고하고 비용 효율적인 선택지입니다.

출처: vercel.com

[3월 31일 vercel_blog를 통해 업데이트됨]

Inkling Small은 오디오(audio)에 대해서도 네이티브하게 추론(reasoning)할 수 있어, 멀티모달 에이전트적 작업(multimodal agentic tasks)을 위해 텍스트와 이미지를 넘어 확장됩니다 [Vercel에 따르면]. 이 모델은 즉각적인 테스트를 위해 AI Gateway 모델 플레이그라운드(playground)에서 사용할 수 있으며, 추론(inference) 시 플랫폼 수수료 없이 BYOK (Bring Your Own Key) 요청을 지원합니다. 이러한 세부 사항들은 멀티모달 워크플로(multimodal workflows)를 탐색하는 Claude Code 사용자들에게 Inkling Small을 유연하고 비용 효율적인 옵션으로 자리매김하게 합니다.

원문 게시: gentic.news