누가 답변에 돈을 지불하는가? 헬스케어 AI 비즈니스 모델과 그것이 아키텍처에 미치는 영향

의사들에게 무료인 의료 AI는 저에게 먼저 한 가지 질문을 던지게 합니다. 누가 비용을 지불하고 있는가?

STAT에 따르면, 임상의들이 의학적 질문을 하고 인용된 답변을 얻기 위해 사용하는 도구인 OpenEvidence는 국가 제공자 번호로 인증하는 미국 임상의들에게 무료이며, 광고가 주된 비즈니스 모델입니다. 같은 보고서에는 2억 5천만 달러 규모의 투자 유치 소식도 포함되어 있습니다.

이는 의사들 앞에 도구를 배치하는 영리한 방법입니다. 또한 공정한 질문을 제기합니다. 만약 의료 답변 옆에 광고가 놓인다면, 우리가 그 광고가 답변 자체를 형성하고 있는 것은 아닌지 어떻게 알 수 있을까요? 이 회사의 광고 정책은 광고주들이 제공되는 정보에 영향을 미칠 수 없으며, 답변 시스템과 광고 시스템은 완전히 분리되어 있다고 명시합니다. 이것이 회사 스스로를 설명하는 방식입니다. 저는 어떤 경우에도 독립적인 테스트를 본 적이 없으며, 문제점을 주장하는 것은 아닙니다. 위 자금 조달 세부 사항은 언론 보도에 따른 것입니다.

엔지니어가 주목해야 할 이유

비즈니스 모델은 누군가 그것을 문서화하든 안 하든 아키텍처 결정입니다.

• 광고가 수익원이라면, 답변을 작성하는 시스템과 광고를 선택하는 시스템 사이에는 명확한 분리벽(hard wall)이 있어야 합니다. 답변 생성기는 절대로 광고 인벤토리(ad inventory)를 볼 수 없어야 합니다. 저는 이것이 약속이 아니라 테스트 가능한 것이기를 바랍니다.
• 구독료가 수익원이라면, 압력은 다른 방향으로 작용합니다. 즉, 사용자를 만족시키고 참여하게 유지하는 것입니다. 이는 제품을 동의하기 쉬운(agreeable) 답변 쪽으로 밀어붙일 수 있습니다. 헬스케어 분야에서 '동의하기 쉬움'이 항상 안전한 것은 아닙니다.
• 비영리 재단이나 공개 참고 자료가 출처라면, 자금 조달은 더 적고 업데이트는 지연될 수 있지만, 독자에게 아첨할 유인이 약합니다.

이 중 어느 것도 자동으로 좋거나 나쁘지는 않습니다. 각각의 모델은 무엇을 테스트해야 하는지 알려줍니다.

제가 할 수 있는 것과 주장할 수 없는 것

Tabibu는 케냐에서 시작된 무료 건강 정보 비서입니다. 이 서비스는 문서 읽기와 같은 기능을 위해 유료 기본(Basic) 및 프로(Pro) 플랜을 제공합니다. 저는 '사용자를 만족시키려는' 매력을 알고 있기에, 안전 규칙들을 테스트 형태로 작성했습니다. 즉, 진단하지 않으며, 결과를 정상이라고 부르지 않고, 용량을 변경하지 않습니다. 현재 임상 의사 검토는 없으며, 사이트에서도 그렇게 명시하고 있습니다.

제 모델이 다른 사람의 모델보다 더 깨끗하다고 주장하는 것이 아닙니다. 단지 이 습관 하나가 전체 분야에 도움이 될 것이라고 말하는 것입니다.

제가 모든 건강 AI에 적용할 규칙

누가 비용을 지불했는지 보여주세요. 답변이 어떻게 구성되었는지 보여주세요.

푸터(footer)에 있는 곳은 아무도 읽지 않습니다. 답변 옆에, 평이한 말로 명시해야 합니다. 출처가 어디인지, 비용을 지불했는지 여부, 그리고 이 도구가 무엇을 할 수 없는지를요.

의료 답변이 광고 옆에 놓여도 괜찮을까요? 양쪽 모두 논리가 있다는 것을 알기에 여러분의 의견을 듣고 싶습니다.

일반 정보이며, 의료 조언이 아닙니다.

저는 이 시리즈로 LinkedIn와 TikTok에 짧은 동영상을 게시합니다. 와서 인사해주세요.