LangChainJS와 Gemini 4 Argon: 현재 기능 및 향후 계획
요약
Google이 최신 Gemini 4 Argon 모델을 출시했으며, LangChainJS와 연동하여 Google AI 또는 Vertex 플랫폼에서 즉시 사용 가능합니다. 특히 최대 1M 토큰 출력을 지원하는 Long Decode 기능은 'continuationToken' 및 새로운 'Interactions' API를 통해 점진적으로 구현될 예정입니다.
핵심 포인트
- Gemini 4 Argon이 출시되어 LangChainJS와 연동하여 바로 사용 가능합니다.
- Long Decode는 최대 1M 토큰 출력을 지원하며, 이를 위해 Google의 API 변경 사항을 활용하고 있습니다.
- 응답 처리를 위한 'continuationToken' 및 새로운 'Interactions' API 지원에 집중하고 있습니다.
Google이 Gemini 제품군에서 최신 버전인 Gemini 4 Argon을 출시했으며, 저는 다행히 이를 미리 보고 테스트할 수 있었습니다.
제가 가장 먼저 한 일은 LangChainJS 테스트 스위트(test suite)를 대상으로 테스트하는 것이었고, 이는 성공적으로 통과했습니다.
하지만 오늘 당장 LangChainJS와 Gemini 4 Argon을 사용하려는 분들이 계시다면 염두에 두셔야 할 몇 가지 사항이 있습니다. 그리고 만약 Argon으로 큰 미래 계획을 가지고 계신다면, 이들이 더 잘 작동하도록 만들기 위해 저희가 작업하고 있는 몇 가지 부분도 있습니다. 이는 현재 상황과 우리가 어떤 작업을 하고 있는지 알려드리기 위한 간단한 메모입니다.
Gemini 4 Argon, 오늘 사용 가능!
Google AI (gai) 또는 Google Enterprise / Vertex (gcp) 플랫폼을 사용하여 LangChainJS와 Gemini 4 Argon을 이용할 수 있습니다. 변경하거나 새로운 라이브러리가 필요하지 않습니다. 모델 이름으로
앞서 언급했듯이, 사고 수준(thinking level)을 수정하는 일부 변경 사항이 곧 제공될 예정입니다. 자세한 내용은 issue 11940를 참고해 주십시오.
Long Decode는 최대 1M 토큰까지 출력을 허용하여, 현존하는 모델 중 가장 많은 용량을 자랑합니다. 하지만 이를 위해서는 Google의 API에서 내부적인 변경이 필요했습니다. 이 문제를 해결할 두 가지 방법이 있으며, 저희가 둘 다 지원할 예정입니다:
- 현재는 Google의 "Generate Content" API를 지원하고 있습니다. Google은 응답을 64k 청크 단위로 읽을 수 있게 해주는 "continuationToken" 매개변수를 추가했습니다.
- Google은 또한 많은 새로운 기능을 제공하는 "Interactions" API도 가지고 있습니다. 저희는 LangChainJS를 통해 Interactions API를 투명하게 사용할 수 있도록 하는 프로젝트의 첫 단계를 막 시작했습니다.
저희는 Long Decode 응답을 한 번에 하나의 청크씩 읽을 수 있게 해주는 "continuationToken" 지원을 추가할 예정입니다. 하지만 이는 더 나은 접근 방식을 개발하는 동안 임시방편으로만 사용될 것입니다.
Interactions API는 "background" 모드일 때 Long Decode를 직접 지원합니다. 저희는 Interactions API에 대한 지원을 가능한 한 빨리 구현할 것이며, "background" 모드는 초기 지원 기능 중 하나가 될 것입니다. 심지어 일부 경우에는 이를 투명하게 만들기를 희망하여, 사용자가 할 일은 단순히 "maxOutputTokens"를 64k보다 크게 설정하는 것만으로도 모든 것이 "제대로 작동"하도록 만들 계획입니다.
이 두 가지 모두 issue 11879가 먼저 완료되어야 합니다. 그리고 저희의 초점은 다른 구성 요소에 대한 작업을 시작할 수 있도록 이것을 가능한 한 빨리 출시하는 것입니다. 또한, 기능이 예상대로 작동하고 모든 것이 항상 그랬던 것처럼 원활하게 작동하는지 확인하기 위해 새로운 테스트 청크도 추가할 예정입니다.
우리의 목표
저는 항상 LangChainJS가 개발자가 사용하고 계속 사용하는 데 가장 쉽도록 만들려고 노력해 왔습니다. Google이 강제하는 복잡한 규칙에 맞춰 매개변수를 일일이 확인할 필요가 없어야 합니다. LangChainJS 라이브러리가 이 작업을 대신 처리해야 합니다.
Argon 지원을 위해 작업 중인 변경 사항들은 다를 바 없습니다.
항상 그렇듯이, 이 프로젝트에 대한 여러분의 도움과 지지에 감사드립니다.
다시 한번 Google 팀에게 감사를 표합니다. 덕분에 Argon으로 테스트하고 작업을 시작할 수 있는 조기 접근 권한을 얻었습니다. 그리고 항상 곁에 있어 준 가족과 친구들에게도 감사합니다. 이 프로젝트를 진행하는 것은 제가 커뮤니티를 돕기로 선택한 방식 중 하나이며, 여러분께서 중요하다고 생각하는 커뮤니티에도 기여하시기를 바랍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기