Google 퇴사 소식

2026년 9월 24일 목요일

오늘 저는 다음 이메일을 보냅니다:

저는 오늘 Google을 사임합니다.

이것은 쉽지 않은 결정이었습니다. 동료들과 근무 환경을 사랑하며, 재미있는 퍼즐을 풀고 돈을 받는 것은 정말 놀라웠습니다. 하지만 제 팀의 궁극적인 목표는 AI를 훨씬 더 저렴하고 낮은 지연 시간(low-latency)으로 만드는 것인데, 저는 이것이 현재 사람들에게 좋지 않다고 생각합니다. 저는 AI 발전이 현재 너무 빠르며 (목적지에 대해서도 의문이 듭니다), 이 점을 확신합니다. 뉴질랜드와의 연관성 때문에 Google이 엔지니어링 작업을 선호하지 않는 부분도 있어, 제가 AI를 가속화하지 않을 다른 Google 프로젝트로 이동하는 것은 사실상 불가능하여 손발이 묶인 상태입니다.

AI 가속화에 기여하고 있는 수백만 명의 사람들이 있습니다. 제가 발을 떼는 것이 미치는 영향은 매우 작겠지만... 아무런 영향도 아니지는 않습니다. 제 일부 기술은 희귀합니다. 저는 GDM 내부에서 사건에 긍정적인 영향을 주려고 시도해 보았지만, 그 효과가 강하지 않은 것 같고, Google 외부에서도 제가 영향력을 발휘할 수 있습니다. 제 작업의 영향에 눈을 감는 것이 유혹적이지만, 그것은 예수님을 따르는 행동이 아닐 것입니다. 저는 이 상충 관계(tradeoffs)에 대해 제 블로그에 더 많이 썼습니다.

다음으로 무엇을 할지 정확히 알지 못합니다. Pernosco와 rr은 계속 유지보수할 것이며, 관련하여 오늘날 AI가 코드를 디버깅하는 방식과 디버깅 도구가 어떻게 그리고 어떤 방식으로 도움이 될 수 있는지 조사할 계획입니다. 저는 작업하고 싶은 다른 프로젝트 아이디어들이 있습니다. 잠재적으로 수익성이 있는 것도 있고 아닌 것도 있습니다. 어쩌면 매력적인 기존 프로젝트를 찾을 수도 있을 것입니다. 저는 확실히 제 미래의 작업이 명백하게 인간 친화적(pro-human)이기를 바랍니다.

우선 저를 모르는 분들을 위해 말씀드리자면: 저는 오랫동안 기술 업계에 몸담아 왔고 실리콘밸리에 많은 인맥이 있지만, 뉴질랜드에 거주하기 때문에 산업의 버블과 미국의 버블 바깥에 살고 있습니다. 저는 기독교 신자이며, 실제로 오클랜드 시내의 아וק랜드 중국 장로교회(Auckland Chinese Presbyterian Church)에서 목사 보조 및 간헐적인 평신도 설교를 하는 사람입니다. 즉, 저는 ‘테크 브로’가 아니며 스스로 규정하는 ‘합리주의 커뮤니티’에도 속하지 않습니다… 하지만 그들의 주장이 많은 부분 진지하게 받아들여질 가치가 있다고 생각합니다.

저는 AI에 대해 할 말이 많지만, 이 글에서 전부 설명할 수는 없습니다. 요약하자면, 많은 사람들이 경고하는 실존적 위험(existential risks)은 심각하게 받아들여져야 한다고 생각합니다. ‘비관론자들(doomers)’이 예측했던 현상들 중 상당수가 이미 발생했습니다 (예: 보상 해킹(reward hacking), 정렬 불일치(misalignment), 기만적 모델(deceptive models), 모델 평가 인식(model eval awareness), 정신병적인 군집(psychotic swarms)). 하지만 저는 ASI 종말의 가능성이 100%라고 확신하지는 않습니다. 오히려 위험은 실재하지만 불확실한 것이며 — 이것 자체가 매우 불안합니다! 우리는 그러한 위험을 최소화하기 위해 막대한 노력을 기울일 도덕적 의무가 있으며, 아마도 그 위험이 충분히 높기 때문에 가까운 미래에 ASI를 목표로 삼는 것은 본질적으로 무책임하다고 생각합니다. 저는 또한 인지적 포기(cognitive surrender), AI 유발 정신병 및 외로움, 권력 집중, 경제적 혼란, 사이버 보안, 책임성 부족 등 다른 AI 관련 문제들도 매우 우려하고 있습니다. 저는 AI의 잠재적 이점이 상당히 불분명하며 현재로서는, 제가 내기를 한다면 부정적인 측면이 이점을 능가할 것이라고 베팅하겠습니다… 하지만 이것에 대해서도 확신하지는 못합니다.

제가 확신하는 몇 가지가 있습니다. AI에 대해 경고를 보내는 AI 연구소의 사람들은 대체로 진심이라고 생각합니다. 저는 Google Deepmind의 많은 사람들과 이 문제들에 대해 이야기해 보았는데, 그들 대부분은 공개적으로 목소리를 내는지 여부와 관계없이 진지하고 심각한 우려를 가지고 있습니다. 사람들이 회사 주가를 부양하거나 경쟁사를 규제하기 위한 수단으로 AI 위험을 과장하는 확실한 증거는 본 적이 없습니다. (국가적, 국제적 규제가 절실히 필요하다고 생각합니다!) 저는 “저 사람들을 믿을 수 없다”는 식의 논거를 많이 보았는데, 어쩌면 그게 사실일 수도 있지만, 러셀 무어(Russell Moore)가 최근 명료하게 설명했듯이 그러한 불신이 그들의 경고를 무시할 좋은 이유는 아닙니다.

우리가 계속 연구하는 한 AI 역량은 꾸준히 증가할 것이라고 확신합니다. 저는 AI가 어떤 종류의 정체기에 도달하거나, 패러다임 전환 없이는 AI가 절대 복제하지 못할 중요한 인간 인지 능력이 밝혀지기를 바라지만, 그런 바람이 이루어질 거라고 기대하지는 않습니다. 벤치마크에서의 모델 발전 속도는 그 어느 때보다 빠르거나 더 빨라 보이며, 그에 따라 질적으로 새로운 역량들이 계속해서 나타나고 있습니다. 만약 오늘 모델 발전이 멈춘다고 해도, 우리는 새로운 프롬프트와 장치를 통해 수년간 효과적으로 새로운 역량을 끌어낼 수 있을 것입니다. 많은 저명한 AI 비판론자들(지트론과 도크토우를 보는군요)은 AI가 실제로 작동하지 않을 사기라고 생각하는 것 같습니다. 저는 그렇지 않을 것이라고 생각합니다.

저는 AI를 통해 더 나은 미래로 가는 길이 있다 하더라도, 현재 변화의 속도가 너무 빠르다고 생각합니다. AI는 인간이 개별적으로 그리고 집단적으로 이해하고 적응하는 것보다 더 빠르게 발전하고 있습니다. 예를 들어 대학에 진학하면서 몇 년 후의 세상을 계획하려는 사람들은 이전 세대처럼 그렇게 할 수 없습니다. 저는 우리가 이전에 경험한 어떤 변화와도 같지 않다고 생각합니다. 제가 겪었던 이전 기술적 변화(PC, 인터넷, 스마트폰) 중에는 물론이고요. 산업혁명 때조차 변화가 훨씬 느렸을 뿐만 아니라, 새로운 기계에 의해 직접적으로 영향을 받거나 영향을 받을 수 없는 인간 활동의 큰 영역들이 있었습니다. 지금은 그렇지 않습니다.

왜 이제 와서 떠나고 이전이 아닌가? 이것은 최근 유행하는 자발적 퇴사 사례나 ‘AI 둔화’ 경고와는 아무 상관이 없습니다. 저는 이 날짜를 오랫동안 염두에 두고 있었는데, 월요일부터 친구들과 함께 장기간 계획했던 10일간의 배낭여행(Abel Tasman 및 Wangapeka 트랙)이 있어서 그 전에 가고 싶었기 때문입니다.

저는 AI 기능 자체보다는 하드웨어 칩 설계 개선 도구에 대해 작업했습니다. 그 업무가 정말 즐거웠고, 한동안은 저 스스로에게 비교적 무해하다고 말했지만, 시간이 지나면서 신이 저를 이 도구들이 새로운 종류의 AI 칩 설계를 가속화하는 데 주된 영향을 미칠 것이라는 현실과 마주하게 되었습니다. 만약 성공한다면, 이는 AI를 훨씬 더 저렴하고 빠르게 만들 것이며—더 많은 추론 토큰(inference tokens)을 소모함으로써 역량(capabilities)을 향상시킬 수 있다는 것을 배웠기 때문에—AI를 더욱 보편화하고 또한 더 강력하게 만들 것입니다. 좋은 직원이 되어야 한다는 제 의무감 때문에, 저는 상사 매니저와 솔직한 대화를 나누고 그들의 프로젝트가 성공하는 것을 보는 것이 최악의 경우 꺼려진다고 말해야 했습니다! 그 이후에도 저는 제 결정에 대해 정말 확신하고 싶었습니다. 왜냐하면 뉴질랜드에서 Google 근무를 통해 얻었던 큰 기회는 아마 다시는 없을 것이기 때문입니다. (Google이 뉴질랜드에 AI를 가속화하지 않는 다른 엔지니어링 팀을 가지고 있지 않기 때문에, Google에 남아 다른 엔지니어링 팀으로 전환하는 것은 비실용적이었습니다.) 고용주에게 대한 제가 언급한 의무감과 사람들에 대한 존중 또한 너무 갑작스럽게 떠나고 업무를 합리적인 상태로 인계하려고 하지 않은 요인이기도 했습니다.

다음은 제가 언급한 의무감과 사람들에 대한 존중 또한 너무 갑작스럽게 떠나고 업무를 합리적인 상태로 인계하려고 하지 않은 요인이기도 했습니다.

앞으로 어떻게 될까요? 제가 확신하는 가장 중요한 것은 성경의 예수님이 실재하시며, 따라서 신께서 우리에게 좋은 계획을 가지고 계시다는 것입니다. 그 계획이 무엇인지는 모르지만(알고 싶지만), 이 AI 혼란 속에서도 밤에 편안하게 잠들 수 있게 해줍니다. 저는 그 계획이 제가 가진 재능을 계속해서 최대한 활용하는 것과 관련되어 있을 것이라고 기대합니다. 설령 그 계획이 예수님이 우리의 어리석음으로부터 우리를 구원하기 위해 돌아오시는 것이라 할지라도, 우리는 그분이 돌아오실 때 바쁘게 지내야 합니다! 그러므로 제가 받은 재능이 가치 있는 한, 계속해서 일하고 싶습니다. 위에서 언급했듯이, 저는 Pernosco와 rr을 유지할 계획입니다. Pernosco의 틀 안에서는 AI 에이전트가 코드를 디버깅하는 방법과 이를 더 효과적으로 만들 수 있는 디버깅 도구에 대해 연구할 계획입니다. 저는 AI 에이전트를 활용하여 저의 취미 프로젝트 아이디어 중 일부를 현실로 구현하고 싶습니다. 저는 AI의 이점을 누리는 데 열심이지만, 인간에게 도움이 되고 제 자신의 정신을 날카롭게 유지하는 방식으로 신중하게 접근하고자 합니다. 가능한 한 뉴질랜드에서 계속해서 이를 실천하고 옹호할 것입니다.