Rust + Tauri를 이용한 Gemini 스트리밍 — 끊김 없는 실시간 AI 응답 구현하기

무언가를 보여주기 전에 AI의 전체 응답이 완료될 때까지 기다리는 것은 2026년 기준으로 제대로 작동하지 않는 것처럼 느껴집니다. 스트리밍 (Streaming)은 UX를 즉각적으로 느껴지게 만듭니다. 여기 제가 Tauri 이벤트를 사용하여 Rust에서 Gemini 스트리밍을 구현한 방법을 소개합니다.

접근 방식 (The Approach)

Gemini는 스트리밍 응답을 위해 서버 전송 이벤트 (SSE, Server-Sent Events)를 지원합니다. 흐름은 다음과 같습니다:

1. Rust 백엔드가 Gemini API에 SSE 연결을 엽니다.
2. 청크 (Chunks)가 도착함에 따라, 프론트엔드로 Tauri 이벤트를 방출 (emit) 합니다.
3. 프론트엔드는 UI에 실시간으로 청크를 추가합니다.

기다릴 필요가 없습니다. 3초 동안 스피너 (Spinner)를 볼 필요도 없습니다. 텍스트가 생성되는 대로 나타납니다.

Rust 측 (The Rust Side)

use futures_util::StreamExt;

#[tauri::command]
...

프론트엔드 측 (The Frontend Side)

import { listen } from '@tauri-apps/api/event'

async function startStreaming(prompt: string, apiKey: string) {
...

주의 사항 (The Gotchas)

SSE 파싱은 취약합니다. data: 접두사, 이벤트 사이의 빈 줄, 그리고 [DONE] 마커를 모두 처리해야 합니다. 위의 코드는 일반적인 사례를 처리합니다. 프로덕션 환경에서는 잘못된 형식의 청크에 대한 로깅을 추가하세요.

리스너 (Listeners)를 항상 정리하세요. 스트리밍 도중 사용자가 페이지를 이동하면, 고아 리스너 (Orphaned listeners)가 죽은 상태를 대상으로 계속 실행됩니다. 위의 try/catch 문은 성공 및 에러 경로 모두에서 정리가 이루어지도록 보장합니다.

스트리밍 중 속도 제한 (Rate limits). Gemini는 응답 도중에 429 에러를 발생시킬 수 있습니다. Rust 에러 경로에서 이를 감지하고 전용 에러 이벤트를 방출하세요:

// 에러 핸들링 시
if status == 429 {
    handle.emit("gemini-error", "Rate limit hit — please retry").ok();
...

릴리스 빌드에서 .json()을 사용하지 마세요. 유니버설 바이너리 (Intel + Apple Silicon) DMG 빌드에서, reqwest의 .json()은 요청 본문 (Request body)을 조용히 누락시킬 수 있습니다. 대신 항상 명시적으로 .header("Content-Type", "application/json").body(serde_json::to_string(&payload)?)를 사용하세요.

결과 (The Result)

스트리밍은 느린 네트워크에서도 AI 기능이 반응성이 좋다고 느껴지게 만듭니다. 구현은 Rust 약 50줄과 TypeScript 약 20줄 정도입니다.

모든 앱의 모든 AI 기능에 적용할 가치가 있습니다.

이 내용이 유용했다면, ❤️ 하나가 생각보다 큰 도움이 됩니다!

👉 HiyokoBar → [https://hiyokomtp.lemonsqueezy.com/checkout/buy/f9b85321-6878-40aa-a472-ff748d6de2d5]

X → @hiyoyok