사티아 나델라, 모든 AI 모델은 '손상되었다'고 가정해야 한다고 밝혀

Satya Nadella on a graphic background of the red, blue, green, and yellow.

마이크로소프트(Microsoft)의 CEO는 X에서 작성된 긴 게시물을 통해 고도로 발전한 AI 모델이 제기하는 위험과 이러한 위험에 어떻게 대처해야 하는지에 대한 자신의 견해를 밝혔습니다. 나델라(Nadella)는 우리가 더 이상 AI가 단순히 조언과 행동을 받아들이거나 거부할 수 있는 "중첩된 블랙박스 세트(set of nested black boxes)"로 취급되는 세계를 용납할 수 없다고 말합니다. 그는 모델을 격리(contained)하고 관찰하며, "변조 불가능한 사람이 읽을 수 있는 증거(tamper-proof human readable evidence)"를 남길 수 있는 더욱 투명한 시스템 구축을 촉구합니다.

그의 권고 사항 중 다수는 업계 다른 전문가들로부터 들은 내용과 일치합니다. 즉, 시의적절한 사고 공개(timely incident disclosure), 독립적인 감사(independent audits), 검증 가능한 데이터(verifiable data), 그리고 격리(containment)입니다. 그가 특히 강조하는 부분은 마지막 지점, 즉...

The Verge에서 전체 기사 읽기