의사들의 증가하는 AI 딥페이크 문제

AI 는 의사를 의심스러운 제품을 홍보하거나 허위 정보를 퍼뜨리는 딥페이크 (Deepfake) 비디오의 무심한 주역으로 만들어가고 있으며, 이는 임상 전문가들에게 더 많은 프라이버시 및 투명성 법을 요구하게 하고 있습니다. 왜 이것이 중요한가: 소셜 미디어 플랫폼에 대한 AI 콘텐츠의 증가는 공중에게 의료 제도에 대한 신뢰를 더욱 훼손할 수 있습니다. 또한 보험 사기, 데이터 도난, 환자 위험을 부추길 수도 있습니다. 뉴스를 이끄는 요인: 미국 의사회 (AMA) 는 지난 주 연방 및 주 입법자에게 법적 격차를 해소하고 신원 보호를 현대화하여 CEO 존 와이트가 언급한 공중 보건 및 안전 위기를 해결할 것을 촉구했습니다. 의사 단체 또한 딥페이크 제작자에 대한 단속과 기술 플랫폼이 사칭을 더 빠르게 제거하도록 강요하는 규칙을 원합니다. 캘리포니아주는 AI 생성 광고에 대한 공개를 요구하는 조치와 의사 딥페이크를 명시적으로 금지하는 조치를 논의 중입니다. 펜실베이니아주의 의사회는 화요일 다른 형태의 AI 사칭 문제를 다루어, 주에서 의사를 연습할 수 있는 면허를 주장한该公司的 챗봇이 한 번의 사건 후 기술 회사에 중단 및 중지 명령을 요구했습니다. 의사들은 자신의 신원이 웰니스 및 장수 보충제와 승인되지 않은 의료 기기를 홍보하는 데 사용되려는 사례를 점점 더 발견하고 있다고 말합니다. "그것은 점점 더 대중화되고 있습니다. 모든 사람이 이것이 영향을 받은 사람을 알고 있습니다," 와이트는 말했습니다. "사람들이 그것을 부끄럽다고 생각하기 때문에 우리가 듣는 것보다 훨씬 많이 발생하고 있을 것입니다." 피해자 중에는 CNN 의 산재이 구파가 있는데, 그는 자신의 외모를 사용하여 알츠하이머 치료제와 같은 제품을 홍보하는 가짜가 너무 설득력 있어 친지들까지 속였다고 말했습니다. "이번 달과 다른 점은 바로 이 광고의 품질이었습니다," 최근 CNN 의 Terms of Service 에서 구파는 말했습니다. "그것은 정말로 놀라웠습니다." 위협 수준: 왜이트는 환자가 위조 제품을 복용하거나 실제 의사에게 실제로 주지 않은 조언을 따르는 경우 환자가 해상을 당할 수 있으므로 의사는 소송당할 수 있다고 말했습니다. AMA 는 타겟팅된 의사가 어떻게 대응해야 하는지 및 과실 책임 및 사이버 책임 보험이 어떻게 도움이 되는지에 대한 지침을 구하고 있습니다. 딥페이크는 사람뿐만 아니라 제한되지 않습니다. 의료 시스템은 내부적으로 큰 혼란을 일으킬 수 있는 가짜 진단 이미지 및 기타 임상 데이터를 발견하고 있습니다. 최근 Radiology 연구에서 대부분의 임상 전문가가 딥페이크 X 선을 발견하지 못했습니다. 경고 후에도 1/4 의 사람이 비자연적인 연조직 질감이나 과도하게 매끄러운 뼈 표면과 같은 특징적인 징후를 찾아야 한다고 경고했습니다. 가짜는 보험사 사기 또는 소송을 부추길 수 있습니다, 마운트 시나이 Icahn School of Medicine 의 주요 저자 미카엘 토르드잔은 말했습니다. "해킹자가 병원 네트워크에 접근하여 합성 이미지를 주입하여 환자 진단을 조작하거나 광범위한 임상 혼란을 일으키는 경우에도 상당한 사이버 보안 위험이 있습니다," 그는 말했습니다. 결론: AI 는 신뢰를 훼손하는 직업에서 신용도가 생과 사의 차이를 결정할 수 있습니다. "우리는 공중이 딥페이크가 아닌 것을 결정하기 위해 탐정 역할을 해야 할 필요가 없습니다," 와이트는 말했습니다.