Apple의 영리한 전략으로 보임. 언론인 활용은 홍보용 명분이고, 실제로는 신원 확인과 보험 앱에 매우 유용할 것임. “정상적으로 살려면 스마트폰이 필요함”에서 “정상적으로 살려면 iPhone이 필요함”으로 바뀔 가능성도 있음.
이미 센서 메타데이터 등을 수집하는 스마트폰 앱으로만 보험금을 청구하게 하는 보험이 많음. 이런 앱은 국가급 공격자가 아니라 일반적인 보험 사기꾼만 막으면 되므로, 충분한 노력을 들이면 우회할 수 있더라도 사기 난도를 높이는 데 가치가 있음. 온라인 신원 확인도 공식적인 본인 인증이든 나이 확인이라는 명목이든 점점 늘어나는 중임.
언론 용도에는 국가급 공격자의 위조 가능성 외에도 근본적인 약점이 있음. 사람들이 원본을 직접 검증하지 않고, 검증 화면을 캡처해 재게시한 이미지만 보고 사진을 “검증”할 것임.

어떤 경로로 그렇게 된다는 건지 이해하기 어려움. 보험사는 신뢰할 수 있는 직원이나 정비사를 보내 피해를 평가하거나, 비용을 아끼려고 신뢰할 수 없는 고객에게 사진을 요청하고 외부 앱을 쓰게 함.
이제 앱을 없애고 고객에게 iPhone 18 Pro가 있어야 보험금을 청구할 수 있게 한다는 뜻인가? 아니면 직원이나 정비사도 신뢰할 수 없으니 그들에게 해당 기기를 요구한다는 뜻인가? 구체적인 사기 경로는 무엇이고, 고객에게 특정 기기를 요구하면서 어떻게 피해 평가를 떠넘겨 비용을 계속 절감할 수 있는가?

Android 제조사와 Qualcomm 같은 SoC 제조사는 왜 비슷한 솔루션을 제공하지 못할 거라고 보는가?

사기가 걱정된다면 스마트폰 이전처럼 지역 사무소의 손해사정사에게 차를 가져오게 하면 됨. 스마트폰이 없던 시절 부주의한 운전자에게 교차로에서 측면 충돌을 당해 차량 검사를 받았는데, 꽤 빠르고 번거롭지 않았음.

보험 사기를 막는 주된 수단은 사기범을 감옥에 보내는 것임. AI로 위조한 사진이 사기의 주요 원인이라고는 생각하지 않음.

지금 하는 방식보다 무엇이 나아지는지 모르겠음. 보험사는 네이티브 앱에서 기기 카메라 사용을 강제할 수 있고, 실재 여부 확인(liveness verification) 도구도 이미 존재함. 변조 앱으로 카메라 대신 사진첩 이미지를 보내더라도, 적절한 실재 여부 확인을 적용한 동영상 촬영으로 쉽게 피할 수 있음.

Apple은 편집한 이미지를 다시 촬영하는 공격을 해결하지 못함. Photoshop이나 AI로 이미지를 만든 뒤 고해상도 모니터에 띄우고 iPhone 18 Pro로 찍으면 유효한 Apple Reference Image가 됨.
실제 장소에 가서 iPhone과 모니터를 골판지 상자에 넣어 외부 빛을 차단하고 촬영하면 위치도 맞출 수 있음. 상자 내부는 Vantablack으로 칠해 반사를 막고 LiDAR 발광부는 테이프로 가리면 됨. 금문교 위 UFO가 담긴 Apple Verified™ 사진을 곧 볼 수 있겠음.

장면을 연출하는 것처럼 사진 발명 때부터 가능했던 조작도 막지 못하지만, 애초에 해결하려는 문제가 그것은 아님. Photoshop과 가짜 사진은 수십 년 전부터 있었고, 이제는 누구나 강력한 AI 도구로 사실적인 이미지를 쉽게 생성·편집할 수 있음.
이 기능은 “이 이미지는 iPhone 센서에서 나왔고 Apple이 승인했음”을 간편하게 증명하는 수단임. 사진에 담긴 장면이 진짜인지는 여전히 기존의 이미지 감식이 필요함.

암호 시스템에 통상 기대하는 수준의 절대적인 보안은 아니라는 데 동의함. 다만 실시간 인증이 필요하고 인증을 철회할 수 있다면, 명백한 위조 사진을 만든 센서가 드러났을 때 해당 사진과 기기의 인증을 중단할 수 있음.
결국 Apple에 대한 신뢰와 Apple 시스템과의 연동, 그리고 공격자의 동기가 그다지 강하지 않다는 전제에 크게 의존함.

그러면 카메라의 초점거리가 맞지 않지 않을까?

가능해 보이지만 비용이 상당히 큼. 목표는 모든 위조를 막는 것이 아니라 AI 이미지의 쉽고 저렴한 대량 생산을 억제하는 것 같음. 그 정도 절충은 받아들일 수 있음.

근본적인 문제는 기술이 아님. 사람들은 “진짜로 인증됨” 표시를 사진 속 서사까지 보증하는 것으로 받아들일 것임. “Real Photo, Verified by Apple”을 보면 비판적으로 생각하기를 멈출 것 같음. 이 이유 하나만으로도 이런 기능은 없어야 한다고 봄. https://imgur.com/fVPkpuQ

Apple은 “certified real”이라는 표현을 쓰지 않을 것이고, 이 문서에서도 쓰지 않음. 의미적 검증, 증명, 변조 탐지 가능성처럼 기술을 설명하는 용어를 신중하게 골랐음.

결국 C2PA를 재발명하고 서버까지 끼워 넣어 더 나쁘게 만들었다는 말을 길게 한 것 같음. C2PA처럼 키를 추출하거나 TPM을 속여 임의의 이미지 데이터에 서명하게 만들 수 없어야 전체 시스템이 성립함.
타임스탬프 서버는 좋은 발상이지만, 기존 서버를 쓰지 않는 이유는 프로토콜 통제권을 유지하려는 것처럼 보임. 어쨌든 C2PA를 무너뜨린 근본 문제는 해결하지 못함.

맞춤형 타임스탬프 구조는 촬영 시각의 상한과 하한을 모두 보장하려는 것으로 보임. 일반적인 타임스탬프 서버는 특정 시각에 이미지를 봤다는 사실만 보증할 수 있고, 훨씬 전에 만들어진 이미지가 아니라는 점은 보증하지 못함.
이 구조에서는 이미지 처리 파이프라인이 마지막으로 받은 타임스탬프를 즉시 사진에 붙여 하한으로 삼고, 이후 네트워크에 연결해 상한 시각을 받음. 두 시각의 간격이 너무 크면 의심스러운 이미지로 볼 수 있음.

코로나19 때 도입된 접촉 추적 기능으로 사진을 찍은 사람이 실제 행사 현장에 있었는지 확인할 수 있을지 궁금했음. 그 사진이 해당 행사에서 나온 것이라는 확신을 어느 정도 줄 수 있을 것임. 여러 사람이 다양한 각도에서 찍은 사진과 사진 인증을 결합하면 조작이 더 어려워질 듯함.

접촉 추적 기능은 이미 제거된 것으로 알고 있음. 어차피 iPhone의 위치 서비스가 훨씬 유용하고, 위치 태그도 검증 대상에 넣을 수 있을 것 같음.
위치 서비스는 속이기 상당히 어려움. AirPods 보청기 기능이 승인되지 않은 국가에서 이를 활성화하려고, 전파 차폐를 위해 iPhone을 전자레인지 안에 넣고 그 안에 가짜 기지국 신호를 만들어낸 사람들도 있을 정도임.

좋은 기능이고 Apple의 구현을 높이 평가함. 처음에는 정부가 Apple을 강제해 개인에게 해를 끼칠 새로운 수단이 생기는지 생각했지만 떠오르지 않았음.
가능한 공격은 정부가 Apple에 특정 서사를 인증하도록 강제하는 식으로, 결국 Apple 자신의 신뢰성을 해치는 것으로 보임. Apple도 그로 인한 신뢰도 추락에 필사적으로 저항할 것임.

다시 생각해 보니 정부가 Apple에 특정 집단의 기능을 비활성화하라고 강제할 수는 있겠음. 어떤 집단일지는 쉽게 떠올릴 수 있을 것임. Ed Sheeran 투어 관련 소식을 들어봤는가?

그 논리가 성립하려면 Apple이 유일한 회사여야 할 것임. Apple이 법정에서 “패소”할 때쯤이면 이미 늦음.

이 접근법은 사용자가 스마트폰을 통제하지 못한다는 전제에 의존하며, 원칙적으로 그래서는 안 됨. 기기를 샀다면 원하는 것을 설치하고 카메라 센서가 원하는 것을 인식하게 만들 권리가 있음. 그 조건에서 안전하게 구현할 수 없다면 다른 해법이 필요함.
제조사가 완벽하게 안전하다고 한 영상 신원 확인 시스템을 회사에서 시험한 적이 있음. 스마트폰을 루팅하고 루팅 탐지만 우회하니 사전 녹화 영상을 카메라 입력으로 보낼 수 있었고, 직원이 실제 영상으로 받아들여 시험 대상자의 신원을 승인할 만큼 조작하기 쉬웠음. 카메라 입력의 진위를 100% 확신하는 것은 기술적으로 불가능함. 가능하다고 가장하면 누군가 증거를 조작해도 기술을 모르는 사람들은 진짜라고 믿게 됨. 임의의 글을 AI 생성물로 오판하는 AI 탐지기를 수많은 사람이 믿는 것과 같음.

휴대전화의 주 카메라 센서를 원하는 장치로 바꾸고, 운영체제의 인증까지 통과시켜 인증된 사진을 만들 구체적인 방법은 무엇인가?
Apple과 iOS에는 이미 Touch ID와 Face ID 같은 보안 민감 부품의 부품 인증 체계가 있음. 카메라 센서도 같은 대상으로 삼아 활성화 전에 인증을 요구할 수 있지 않은가?
문서에 따르면 Apple Reference Image는 iPhone 18 Pro와 iPhone 18 Pro Max의 맞춤형 이미지 센서로 신뢰할 수 있는 이미지 데이터를 확보함. 또 기기가 침해돼도 무력화할 수 없는 안전한 사진 처리 환경을 제공하는 Private Cloud Compute에 의존함.

지나치게 복잡하고, 비공개 소스를 포함한 수많은 구성 요소가 정확하게 작동한다고 믿어야 함. 검증된 “현상” 이미지마다 Apple 서버에 업로드해야 하고, 자신이 “소유한” 하드웨어와 소프트웨어의 완전한 통제권도 포기해야 함.
이 모든 것이 광자를 “검증”하기 위해서인데, 이는 촬영된 사건의 진실성을 확인하는 문제의 일부일 뿐임. 기업과 정부가 서비스 이용 조건으로 이 기능을 강제하지 않기를 바람.

이 기능은 오픈 소스로 공개된 환경에서 구현할 수 없기 때문임. 잠긴 이미지 처리 파이프라인과 비밀 키에 의존함.

이 기능을 쓰려면 이미지를 Apple의 PCC 시스템에 보내야 한다는 점이 우려됨.

어차피 소셜 미디어에 공유할 사진이 AI 생성물이 아님을 증명하려고 쓰는 기능일 것임. PCC는 상당히 잘 만들어졌고, 동형암호를 쓰지 않는 범위에서는 비공개 원격 연산에 최대한 가까운 방식임.

세 번 읽고 보니, 첫 단계인 “Image Capture”에서는 타임스탬프를 받기 위해 이미지 메타데이터의 해시를 보내고, 두 번째 “Reference Image Development”에서는 이미지 자체를 보내는 것으로 보임. 타임스탬프 증명은 두 번째 단계에서 생성되는 것이 아님.
Apple 문서에 따르면 현상은 참조 이미지를 실제로 볼 때만 진행되는 듯함. 그렇다면 참조 이미지를 열지 않으면 사진도 전송되지 않는 것인가? https://support.apple.com/guide/iphone/view-reference-images... https://www.apple.com/legal/privacy/data/en/reference-image/
문서에는 참조 모드로 촬영하면 사진 메타데이터에 참조 이미지 정보가 들어가고, 이후 iOS나 Mac에서 Reference 배지를 누르면 원본 사진, 센서 서명과 촬영 시간 범위 등의 메타데이터, 센서의 고유 하드웨어 식별자를 PCC로 보낸다고 나와 있음.
처음에는 사진 서명의 해시만 전송한다고 잘못 이해했으나 정정함. 실제 사진 데이터도 보내며, 기기에서 메타데이터에 서명하는 대신 PCC를 쓰는 이유가 있을 것으로 추정함. 참조 이미지 모드 자체를 쓰지 않는 선택은 가능함.

센서부터 연산 사진 처리 소프트웨어까지 신뢰 사슬이 필요하다면, 휴대전화를 탈옥하거나 루팅했을 때는 어떻게 되는가? Linux에서 Netflix를 4K로 볼 수 없는 것처럼, 루팅한 휴대전화의 카메라를 미인증 상태로 만드는 트로이 목마가 아닌가?

기기 내 두 서명은 카메라 센서 자체에서 처리하고, 후처리 결과는 SEP가 서명하는 것으로 보임. 완전히 탈옥하더라도 이 둘은 침해되지 않을 것임.