오늘날 비로소 듣게 된, 우크라이나 전장에서 발생한 분수령이 된 순간은 바로 인간을 사살하기 위해 완전 자율 드론을 사용했다는 점입니다. 우크라이나는 AI 제어 '터미네이터 모드'를 가동한 완전 자율 쿼드콥터 드론 10대를 최전선에 보냈습니다. 드론 제조사 알렉산더 코카노프스키(Alexander Kokhanovskyy)는 우크라이나 대사관 주최 기자 간담회에서 뉴 사이언티스트(New Scientist)에게

출처가 언급했듯이, 인간의 개입 없이 살상할 수 있는 자율 무기 사용에 대한 공식적인 금지는 없습니다. 하지만 작년 유엔 사무총장 안토니우 구테흐스(António Guterres)는 이 '레드 라인'을 그릴 것을 촉구했습니다. 주장은 전쟁에서 인간의 판단력을 제거하는 것이 인권에 위험을 초래한다는 것입니다. 게다가, 이 기술이 개발되는 현 단계에서 AI 기반 시스템은 자신이 저지르는 실수들로 인해 자주 뉴스에 오르내립니다.

흥미롭게도 우크라이나는 드론을 이용한 인간 대상의 최종 단계 완전 자율 표적 지정(fully autonomous final-stage targeting)에 대한 금지를 실제로 가지고 있습니다. 코카노프스키가 연설했던 기자 회견에서 다른 관계자들은 정부 결정권자들이 방위 산업체들과 규칙을 유연하게 적용하는 것에 대해 논의 중이라고 밝혔습니다. 하지만, AI 드론이 적군 병사에게 사상자를 입히도록 허용한 '루비콘강'을 건넌 최초/유일한 국가라고 보기는 어려울 것입니다.

New Scientist와의 인터뷰에서 학자들은 전장에서 터미네이터 모드(Terminator Mode)가 활성화된 드론이 방출되었다는 소식에 대해 몇 가지 흥미로운 관점을 제시했습니다. 한 전문가는 이 소식을 끔찍하고 인간의 존엄성을 도둑맞은 것이라고 묘사했습니다. 또 다른 전문가는 2024년 바흐무트(Bakhmut)와 차시프 야르(Chasiv Yar) 근처에서 발생한 AI 드론 공격이 군사적 효과를 위해서는 여전히 인간을 루프 안에 두는 것이 더 낫다는 것을 입증했을 것이라고 결론지었습니다.

Google Preferred Source

Google News에서 Tom's Hardware 팔로우하기, 또는 우리를 즐겨찾기 출처로 추가하여 최신 뉴스, 분석 및 리뷰를 피드에서 받아보세요.

Tom's Hardware의 최고의 뉴스 및 심층 리뷰를 받은 편지함으로 직접 받으세요.

마크 타이슨(Mark Tyson)은 Tom's Hardware의 뉴스 에디터입니다. 그는 비즈니스와 반도체 설계부터 상식의 경계에 다가서는 제품에 이르기까지 PC 기술 전반을 다루는 것을 즐깁니다.