Google의 Gmail 글쓰기 어시스턴트

원문은 lavkesh.com에서 처음 게시되었습니다.

이메일 작성은 대부분의 사람들이 두려워하는 번거로운 일이며, 그럴만한 충분한 이유가 있습니다. 적절한 어조(tone)를 맞추는 것은 어렵고, 문법은 문제의 일부일 뿐입니다. 진짜 문제는 명확성(clarity)이며, 바로 이 지점에서 Gmail을 위한 Google의 'Help me write' 기능이 등장합니다.

이 기능의 AI는 격식(formality), 불확실성(uncertainty), 그리고 장황함(wordiness)과 같은 흔한 함정들을 피할 수 있도록 설계되었습니다. 이는 올바른 방향으로 유도하는 미묘한 자극이지만, 장기적으로는 큰 차이를 만들어낼 수 있습니다. 그리고 솔직히 말해서, 대부분의 사람들은 그저 이메일을 빨리 처리하고 다음 일로 넘어가고 싶어 합니다.

그렇다면 이 기능은 실제로 무엇을 할까요? 이 기능은 이메일의 맥락(context)과 의도(intent)에 맞춰 문법, 구절(phrasing), 단어 선택에 대한 실시간 제안을 제공합니다. 단순히 오타를 잡아내거나 대체 단어를 제안하는 것에 그치지 않고, 상황에 맞는 적절한 어조를 찾을 수 있도록 도와줍니다.

바쁜 화요일에 제안 기능이 지연되기 시작했을 때 저는 내부 구조를 살펴보기 시작했습니다. 이 엔진은 PaLM 2를 기반으로 작동하며, 제 테스트 결과 일반적인 200자 초안의 왕복 시간(round-trip time)은 평균 약 150ms였습니다. 네트워크가 급증하거나 서비스가 할당량(quota)에 도달하면 이 수치는 2초까지 늘어날 수 있으며, UI가 회의 마감 시간을 놓칠 정도로 길게 멈추기도 합니다. 프로덕션(production) 환경에서는 서버 호출이 500ms를 초과할 때 경량화된 온디바이스 트랜스포머(on-device transformer)로 전환하는 클라이언트 측 폴백(client-side fallback)을 추가했습니다. 이를 통해 타임아웃(timeout) 비율을 약 4%에서 0.5% 미만으로 줄였고, 새벽 3시에 발생하는 몇몇 긴박한 지원 티켓(support tickets)들을 방지할 수 있었습니다.

'Help me write'의 가장 영리한 측면 중 하나는 구직 신청이나 회의 요청과 같은 일반적인 시나리오를 위한 사전 구축된 템플릿(templates)입니다. 이러한 템플릿은 훌륭한 시작점이 되며, 너무 제한적이지 않으면서도 유용하게 사용할 수 있을 만큼 잘 구조화되어 있습니다.

템플릿 라이브러리는 편리하지만, 기업의 스팸 필터에 걸리는 것을 목격하기도 했습니다. "I look forward to hearing from you(답변 기다리겠습니다)"와 같은 일반적인 문구가 자동 생성된 회의 요청의 4분의 1에 등장하며, 필터는 이를 반복적인 내용으로 분류합니다. 해결책은 이메일의 제목이나 최근 스레드(thread)에서 가변 토큰(variable token)을 주입하는 것입니다. 한 출시 과정에서는 간단한 Jinja 스타일의 플레이스홀더(placeholder)를 추가했는데, 전송 시간(time-to-send) 지표를 10초 미만으로 유지하면서도 오탐률(false-positive rate)을 30% 낮출 수 있었습니다.

하지만 'Help me write'를 진정으로 차별화하는 점은 Gmail과의 원활한 통합입니다. 워크플로우(workflow)를 변경하거나 새로운 도구를 배울 필요가 없습니다. 이 기능은 그저 작동하며, 당신이 글을 쓰는 동안 조용히 개선 사항을 제안합니다.

기업 환경에서는 개인정보 보호(Privacy)가 가장 먼저 제기되는 문제입니다. 기본적으로 콘텐츠는 언어 모델(language model)을 위해 Google의 서버로 스트리밍되지만, 관리 콘솔(admin console)에서 스위치를 전환하여 모든 것을 내부 엣지(internal edge)에 유지할 수 있습니다. 우리는 GDPR 준수가 필요한 한 금융 서비스 기업과 파일럿(pilot)을 진행했습니다. 해당 기업은 온프레미스(on-prem) 모델을 활성화했고, 법무팀의 반대가 사라지면서 도입률이 12% 증가하는 것을 확인했습니다. 트레이드오프(trade-off)는 지연 시간(latency)이 약 200ms 정도 약간 증가한다는 점이지만, 우리는 이를 위험 감소를 위해 수용 가능한 수준이라고 판단했습니다.

그렇다면 'Help me write'의 실제 영향은 무엇일까요? 이것이 모든 것을 바꾸는 게임 체인저(game-changer)는 아니지만, 이메일 작성 도구 모음에 유용한 추가 기능인 것은 분명합니다. 이 기능이 당신을 대신해 이메일을 써주지는 않겠지만, 당신의 의도를 명확하게 전달할 수 있는 더 명료하고 간결한 메시지를 초안(draft) 작성하도록 도와줄 것입니다. 그리고 그것은 이메일당 몇 분의 추가 노력을 들일 만한 가치가 있습니다.

이메일이 업무 커뮤니케이션의 주요 수단으로 남아 있는 한, 더 효율적으로 글을 쓸 수 있도록 돕는 어떤 도구든 반가운 추가 사항이 될 것입니다. 'Help me write'는 올바른 방향으로 향하는 미묘하지만 효과적인 자극(nudge)이며, 아마도 당신의 Gmail 워크플로우에서 필수적인 부분이 될 기능입니다.

'Help me write'는 당신의 글쓰기 기술을 대체하는 것이 아니라, 이를 개선하도록 돕는 도구라는 점을 주목할 가치가 있습니다. 그리고 이것은 매우 중요한 차이점입니다. 이 기능은 당신의 능력을 대체하는 것이 아니라 증강(augment)하도록 설계되었습니다.

저는 몇 주 동안 'Help me write'를 사용해 왔는데, 정말 놀라운 경험이었다고 말하고 싶습니다. 이것이 만능 해결책(magic bullet)은 아니지만, 제 이메일 작성 도구 모음(toolkit)에 유용한 추가 기능임은 분명합니다. 그리고 이와 같은 기능에 기대할 수 있는 최선의 결과이기도 합니다.

물론 'Help me write'가 할 수 있는 일에는 한계가 있습니다. 이것은 인간의 판단력이나 상식(common sense)을 대체할 수 없으며, 명확한 의사소통을 보장해 주는 것도 아닙니다. 하지만 이는 올바른 방향으로 나아가는 단계이며, 아마도 당신의 Gmail 워크플로우에서 필수적인 부분이 될 기능입니다.