Google이 방금 Gemini 3.6 Flash와 3.5 Flash-Lite를 일반 사용 가능(general availability) 상태로 출시했습니다. 새로운 모델들은 비용 효율적인 서브에이전트(subagents) 및 더 효율적인 계획 수립과 같이 개발자의 특정 요구 사항을 목표로 하지만, 가장 중요한 변화는 temperature, top_p, top_k의 폐지(deprecation)입니다. 이는 단순한 API 수정이 아니라, 프롬프팅(prompting)에 있어 더 규율 있고 지시 중심적인 접근 방식을 강제하는 변화입니다.

두 가지 새로운 특화 도구

7월 21일 출시를 통해 각각 명확한 목적을 가진 두 가지 모델이 프로덕션 환경에 도입되었습니다.

첫째, Gemini 3.6 Flash는 출력의 장황함(verbosity)에 대한 개발자의 직접적인 피드백을 해결하기 위해 설계된 업그레이드 모델로 자리매김했습니다. 이 모델은 이전 모델보다 낮은 가격대에서 개선된 토큰 효율성(token efficiency)과 코드 및 에이전트 계획(agentic planning)을 위한 더 나은 역량을 특징으로 합니다. 이는 성능과 비용의 균형이 필요하면서 응답에서 불필요한 잡담이 적어야 하는 일반적인 작업에 사용하는 모델입니다.

둘째, Gemini 3.5 Flash-Lite는 특정 작업, 즉 대량 자동화를 위해 특화된 도구입니다. 이 모델은 "서브에이전트(subagent)" 작업을 위한 저지연(low-latency), 고비용 효율적 옵션으로 설명됩니다. 이는 더 강력한 모델이 오케스트레이터(orchestrator) 역할을 수행하는 동안, 더 작고 빠르며 저렴한 모델들이 더 큰 워크플로우의 개별적이고 반복적인 부분을 처리하도록 생성될 수 있는, 더 복잡한 멀티 에이전트 시스템(multi-agent systems) 구축을 향한 명확한 방향성을 시사합니다.

temperature 튜닝의 종말

API를 사용하는 엔지니어들에게 가장 영향력 있는 변화는 주요 샘플링 파라미터(sampling parameters)의 폐지입니다. gemini-3.6-flash 및 gemini-3.5-flash-lite의 경우, temperature, top_p, top_k 파라미터는 이제 무시됩니다. 더 "창의적인" 출력을 위해 temperature를 높이거나, 더 결정론적인(deterministic) 출력을 위해 낮추던 익숙한 워크플로우는 이제 사라졌습니다.

공식 가이드라인은 이제 모델의 동작을 제어하기 위해 시스템 지침 (system instructions)을 사용할 것을 권장합니다. 결정론적인 (deterministic) 응답을 얻으려면 모델이 따라야 할 명시적인 규칙을 정의해야 합니다. 이는 제어의 부담을 API 파라미터 (parameters)를 미세 조정하는 것에서 더 견고한 프롬프트 (prompts)를 작성하는 것으로 전환합니다. 출력을 다양화하기 위해 확률적 샘플러 (stochastic sampler)에 의존하는 대신, 이제는 지침 내에서 원하는 출력 구조, 스타일 및 제약 조건을 명시적으로 설계해야 합니다.

이것이 API 호출에 의미하는 바

이 변화는 코드를 구성하는 방식에 있어 실질적인 전환을 요구합니다. 더 이상 샘플링 파라미터가 포함된 generation_config 객체를 전달하고 그것이 효과를 발휘하기를 기대할 수 없습니다. 출력을 제어하기 위한 로직은 system_instruction 콘텐츠 내부로 이동해야 합니다.

다음은 이러한 변화에 대한 개념적인 예시입니다. 이전에는 간결한 JSON 출력을 얻기 위해 다음과 같이 했을 수 있습니다:

# 이전: 샘플링 파라미터에 의존
import google.generativeai as genai

...

이제 새로운 모델을 사용할 때는 샘플링 설정이 아닌 명시적인 지침을 통해 결정론적 특성을 달성하게 됩니다.

# 이후: 명시적인 시스템 지침 사용
import google.generativeai as genai

...

이러한 접근 방식은 더 나은 프롬프트 엔지니어링 (prompt engineering) 위생을 강제하며, 지침이 코드와 함께 존재하기 때문에 모델의 예상 동작을 더 명시적이고 감사 가능하게 (auditable) 만듭니다.

핵심 요약

이번 출시는 단순한 모델 버전 업데이트 그 이상입니다. 이는 API 기반 생성 (generation)이 나아갈 방향에 대한 선언입니다. 샘플링 파라미터에서 명시적인 시스템 지침으로의 이동은 확률적인 미세 조정보다 구조화된 프롬프팅 (structured prompting)에 거는 베팅입니다. 빌더(builders)들에게 이는 핵심 기술이 API 노브(knobs)를 만지는 것이 아니라, 모델이 실행할 수 있는 명확하고 모호하지 않은 지침을 설계하는 것에 더 가까워짐을 의미합니다. 이는 모델을 창의적인 신탁 (oracle)처럼 다루기보다, 자연어로 프로그래밍하는 결정론적인 함수 (deterministic function)처럼 다루는 방향으로의 전환입니다.

출처

• Gemini API Release Notes