AI 공동 임상 의사(co-clinician)를 위한 안전장치 설계

임상 등급 AI를 위한 안전장치를 통한 신뢰성 확보

임상 환경에 AI를 도입하고 배포하는 과정에는 타협할 수 없는 아키텍처적, 운영적 안전장치가 요구됩니다. 환자와 직접 대면하는 원격 의료 대화 시뮬레이션 연구에서, AI 공동 임상 의사(AI co-clinician)는 이중 에이전트 아키텍처를 사용합니다. 'Planner' 모듈은 대화를 지속적으로 모니터링하며, 'Talker' 에이전트가 안전한 임상 경계 내에 머무르는지 검증합니다.

마찬가지로, 의사들의 요구사항을 충족시키기 위해 AI 공동 임상 의사는 임상 등급의 근거를 우선시하며 검색 시 검증 및 인용 확인 작업을 수행합니다. 위에 보고된 평가는 의사들이 실제 세계의 다양한 증거 필요성을 반영하여 구성했으며, 가상의 시나리오에서 질문을 만들어 AI의 역량을 엄격하게 평가했습니다.

AI 공동 임상 의사의 엄격한 실세계 평가를 위한 연구 협력

AI 공동 임상 의사를 더욱 개발하고 평가하기 위해, 현재 미국, 인도, 호주, 뉴질랜드, 싱가포르, UAE 등 전 세계적으로 다양한 의료 환경의 학계 및 연구 협력자들과 단계적인 접근 방식을 진행하고 있습니다.

이러한 평가 단계를 거치면서, 우리는 임무에 부합하는 의료 기관과 학술 의료 센터를 포함하여 더 많은 지역에서 연구를 확장할 계획입니다. 우리의 목표는 의료 AI가 적용 가능한 표준에 따라 책임감 있게 개발 및 배포되어 전 세계의 더 나은 건강을 지원하도록 하는 것입니다.

참고: 현재 우리의 연구 협력은 질병의 진단, 치료, 완화, 처치 또는 예방에 사용하거나 의학적 조언을 제공할 목적으로는 설계되지 않았습니다.

감사의 말씀

감사의 말씀

Harvard Medical School과 Stanford Medicine의 연구 파트너들, 그리고 저희 팀과 함께 신뢰할 수 있는 테스터 평가에 참여해주신 많은 의료 센터 및 케어 기관에 감사드립니다. 본 프로젝트는 Google DeepMind, Google Research, Google Cloud, Google for Health 등 여러 팀과의 협업을 통해 진행되었으며, 통찰력 있는 논의와 기여를 해주신 저희 팀원들에게 감사를 전합니다.

특히 AI 공동 임상 의사(co-clinician)는 Aniruddh Raghu, Arthur Chen, Charlie Taylor, CJ Park, David Stutz, Devora Berlowitz, Doug Fritz, Dylan Slack, Eliseo Papa, Jack Chen, JD Velasquez, Jing Rong Lim, Katya Tregubova, Kelvin Guu, Meet Shah, Richard Green, Ryutaro Tanno, Sukhdeep Singh, Victoria Johnston, Adam Rodman의 핵심 연구 및 엔지니어링 노력 없이는 불가능했을 것입니다.

Ali Eslami, Aliya Rysbeck, Andy Song, Anil Palepu, Anna Cupani, Bakul Patel, Bibo Xu, Brett Hatfield, David Wu, Ed Chi, Emma Cooney, Erica Oppenheimer, Erwan Rolland, Euan A. Ashley, Francesca Pietra, Rebeca Santamaria-Fernadez, Gordon Turner, Gregory Wayne, Hannah Gladman, Irene Teinemaa, Jack O'Sullivan, Jacob Koshy, Jan Freyberg, Jason Gusdorf, Joelle Wilson, Katherine Tong, Juraj Gottweis, Michael Howell, Mili Sanwalka, Pavel Dubov, Pete Clardy, Peter Brodeur, Rachelle Sico, SiWai Man, Sumanth Dahathri, Taylan Cemgil, Tim Strother, Uchechi Okereke, Valentin Lievin, Vishnu Ravi, Yana Lunts, Yun Liu, Simon Staffell, Rachel Teo, Adriana Fernandez Lara, Armin Senoner, Danielle Breen, Paula Tesch, Leen Verburgh, Dimple Vijaykumar, Juanita Bawagan, Muinat Abdul, Mariana Montes, Rob Ashley 등 많은 협력자들의 귀중한 기여에 감사드립니다. 기능 비디오는 Christopher Godfree, Matt Mager, Emma Moxhay, Simon Waldron이 제작했습니다.

연구 과정 전반에 걸쳐 통찰력 있는 지도와 지원을 해주신 James Manyika와 Demis Hassabis에게 감사합니다.