감시는 안전이 아니다: 영국의 최신 개인정보 위협에 관한 성명 [pdf]

보안 부팅, 증명, DRM 같은 것을 만든 기술 업계 사람들이 이 결말을 오픈소스 옹호자들이 늘 보던 필연으로 봤는지 가끔 궁금함
기술적 수단으로 최종 결정권을 사용자에게서 기업으로 옮기면서, 정치인들이 정치적 수단으로 그 통제권을 자신들에게 옮길 수 없다고 생각했을까?
30% 앱스토어 수수료를 뽑아내려고 잠그고 앱 심사로 규칙을 강제하며 Tumblr 같은 사이트 검열까지 보여주면서, 정치인들이 같은 규칙 설정과 검열 권력을 원하지 않을 거라고 봤을까?
고용주들이 그 이전을 막아줄 거라고, 조 단위 기업들이 자신들을 조 단위 기업으로 만들어준 체제를 전복하려는 Che Guevara식 게릴라가 될 거라고 생각했을까?

그런 일을 할 수 있는 사람들은 세상을 그냥 주어진 것으로 받아들이는 쪽이라는 인상을 받음. “세상이 이렇게 돌아가니 디지털 제한이 필요하고, 이제 구현해야 한다”는 식임
DRM이나 원격 증명이 표준 비즈니스 관행인지 아닌지는 내가 결정할 수 있는 게 아니고, 그냥 그런 현실이라는 태도에 가까움
법을 대하는 두 부류와 비슷함. 한쪽은 “이게 법이니 따라야 한다”고 하고, 다른 쪽은 “이 법은 말이 안 되니 바꿔야 한다”고 함
보행자 신호등을 보고 초록불이면 건너는 사람과, 차를 보고 오는 차가 없으면 건너는 사람의 차이이기도 함. 전자는 교통 규칙을 따라야 한다고 하고, 후자는 법의 빨간불/초록불만 봤다면 살아남지 못했을 거라고 봄. 초록불이 안전을 뜻하지도 않고, 빨간불이라도 차가 없으면 못 건널 이유는 없음

결국 그들은 직원임. 고용주는 원하는 코드를 쓰라고 고용하고, 안 쓰면 해고한 뒤 다른 사람을 뽑아 쓰게 함
윤리적으로 아무리 의심스러워도, 자기 관점을 지키려고 직장을 포기하는 사람은 여전히 매우 드묾

표현이 좋음
대형 기술 기업의 똑똑하고 유능한 사람들 글을 읽어보면 이 문제를 가장 많이 배울 수 있다고 봄. 그들의 프레임은 자유를 타협함으로써 완화되는 느리지만 피할 수 없는 사회적 압력과의 트레이드오프인 경우가 많음
그래서 그들이 위의 지점을 모른다고 생각하지는 않음. 오히려 기술, 기업, 어쩌면 보통 사람들까지도 더 나아지거나 더 부유해지거나 더 정교해지는 길에서 그 타협 없이 전진할 현실적 방법을 보지 못하는 쪽에 가까움
미래의 갈림길을 봤는데, 자신들이 하든 상황이 더 나빠져 다른 누군가가 하든, 어떤 길도 기술적 제약 없이 끝나지 않는다고 보는 느낌임

보안 부팅, 증명, DRM 같은 기능을 만드는 사람들은 아주 잘 알고 있지만 신경 쓰지 않음. 해커 감소, 악성코드 감소, 봇 트래픽 감소 같은 그들에게 제시되는 이익이 사회 전체의 가능한 손해보다 크다고 보기 때문임

예전에 이런 것들에 대해 목소리를 냈던 기억이 있음. 하지만 변명은 어디에나 있었음
“보안 부팅은 끌 수 있으니 문제없다”는 식이었음. 맞긴 하지만, 그러면 점점 더 많은 것이 실행되지 않게 됨. 예를 들면 Mac에서 iOS 앱을 못 쓰는 식임. 결국 휴대폰에서 이미 그렇듯이 푹신한 담장 친 정원 안에 머무르는 것이 표준이 되고, 벗어나면 유용한 일을 하는 앱에서는 그냥 차단될 것임
“기업은 네가 주장하는 본인이 맞는지 확인해야 한다”는 증명 논리도 있음. 맞지만, 그 권력으로 이익을 얻을 수 있으면 기업은 남용할 것임

순서대로 보면 이렇다

성인 콘텐츠를 보기 전에 제3자가 나이를 확인할 수 있도록 컴퓨터에 카메라가 필요함

이것이 소셜 미디어에도 적용됨

운영체제에도 적용됨

나이 확인을 하지 않으면, 법은 컴퓨터가 AI를 실행할 만큼 강력하거나 인터넷에 연결되어 사적인 사진을 제3자에게 보내야 한다고 요구하게 됨. 그래야 노출을 감지하고 금지할 수 있음. Facetime 통화 같은 데도 작동하려면 아마 실시간 실행이 가능해야 함
다음 단계는 대부분의 운영체제와 오래된 기기를 사실상 불법화하는 것일 가능성이 큼. Google, Apple, Microsoft에는 훌륭한 소식이고 Linux와 대안 운영체제에는 나쁜 소식임. 학교에서 Raspberry Pi를 나눠주던 시절을 기억해야 함
덧붙이면, 아무도 소프트웨어 공학이 어떻게 돌아가는지 모르기 때문에 이걸 3개월 안에 무료로 구현하라고 요구하고 있음. 대단한 일처리임

“다음 단계는 대부분의 운영체제와 오래된 기기를 불법화하는 것”까지 갈 필요도 없을 것임
대신 오래된 기기에서 돌릴 수 없는, 사실상 필수인 새 기술을 만들면 됨. 업데이트하거나 사회적으로 존재를 멈추라는 식임
휴대폰과 이메일은 이미 그런 “필수”에 가까워 보임. 개인적으로 휴대폰/이메일을 쓰지 않는 인터넷 사용자 입장에서 그렇다. “전화도 없고 이메일도 없다”고 답하면 아무도 믿지 않음. 살아 있는 가장 자유로운 사람인데, 믿지 못하는 건 그들의 손해임

이건 단지 네 사진 문제가 아님. 기기에 표시되는 모든 콘텐츠, 카메라가 잡는 모든 콘텐츠, 전부임. 완전한 수집임. GCHQ는 신나서 어쩔 줄 모를 것임

법이 정말 제3자를 요구하나? 부모가 설정할 수 있는 기기 내 기능이라면 그리 끔찍해 보이지는 않음

파시즘적 압박이 충분히 커지면 Usenet이 다시 좋아질지도 모름. 알려진 양호 콘텐츠를 스팸에서 걸러내는 방법만 찾으면 되는데, OpenPGP 신원으로 풀 수 있을 것 같음
아니면 참을성 있는 사람들에게는 Tor와 다운로드 관리자가 있음. 수천 개의 작은 사이트에 퍼진 정적 생성 사진·동영상 갤러리도 가능함
사람들을 어두운 구석으로 밀어 넣는 단점은 모든 규제가 사라지고 세수 일부도 같이 사라진다는 것임. 세수 손실이야말로 그들의 주의를 끌 방법일 수 있음

Signal은 강하게 맞서야 함. 이렇게 말하면 좋겠음
정부가 모든 휴대폰에 밀고자를 심고, 모든 침실에 도청 장치를 붙이고, 매일 저녁 모든 가정을 엿듣게 하려 한다. 모든 진료실, 모든 상담실, 모든 펍, 모든 거리, 모든 상점까지
그 밀고자가 집으로 보고할 때, 연인에게 입력한 말 때문에 경찰이 집으로 올 수 있음
모든 데스크톱, 노트북, 태블릿, 카메라, 휴대폰에 인공 Stasi가 들어감. 모든 모퉁이와 모든 거실에 있음. 그 시선에서 예외는 없음
청소기가 집으로 보고할 준비가 됐나?

Signal 메신저 앱/플랫폼 말인가? 재미있는 건 중국에서는 Signal이 VPN을 써도 거의 제대로 안 됨. 미디어나 이미지를 보내는 건 불가능함
때로는 몇 주 내내 막히기도 함. 다른 건 VPN을 쓰면 그럭저럭 돌아가는 편임

Signal이 맞서지 않으면 프라이버시를 신경 쓰는 고객은 잃고, 신경 안 쓰는 고객은 당장은 잃지 않을 것임. 하지만 새로운 해법을 둘러싼 분열이 거의 확실해지고, 기술 친구나 요즘 멋진 사람들이 일반 사용자에게 추천하는 다른 선택지가 생길 것임
우리는 이미 이런 일을 겪어봤음. 이 게임에서 이기는 유일한 방법은 게임을 하지 않는 것임. 특히 정부와는, 플레이하기 시작하는 순간 지는 것임

Nick Harkaway의 소설 Gnomon에 나오는 The Witness나 다름없음

감시는 겉으로 내세우는 개인적·주변부 위협을, 명확하고 위험하며 광범위하고 실질적으로 되돌릴 수 없는 위협으로 대체함. 그 위협은 우리 삶의 모든 직간접 측면에 대한 중앙집중적 지렛대를 계속 축적함
지식은 권력임. 우리의 내면 생활을 강제로 드러내게 만들면 각자가 취약한 위치에 놓임
“남용되지 않더라도” 잠재적 위협 자체가 사고와 행동의 자유를 실제로 빼앗음
이것은 극단적 남용임
국가는 모든 시민에게 최대화된 일방향 위협으로 작동하게 되고, 국가가 국민을 위해 일한다는 감각을 무너뜨림 AI 결합 분석은 그 위협과 수동적·능동적 피해를 기하급수적으로 키움
역사상 가장 현명한 윤리·안전 개념 중 하나는 이것임. “부당한 수색과 압수로부터 각자의 신체, 주거, 문서, 소지품의 안전을 보장받을 국민의 권리는 침해되어서는 안 된다” 전체 독재의 지렛대를 설치하는 민주주의는 민주주의에 대한 가장 큰 왜곡이자 위협임. 민주주의는 정부가 자유에 대한 가장 큰 위협임을 인정하는 동안에만 작동함. 시민에 대한 정부 권력을 엄격히 제한하는 것만이 유일한 방어임

정부는 소비자 인터넷 초창기부터 감시를 밀어붙여 왔음
내가 기억하는 가장 이른 예는 Clipper Chip임. 제안된 지 3년 만에 죽었음
이번 멍청한 발상도 비슷하게 망할 것임. 근래 가장 악명 높은 소아성애자의 아주 친한 친구를 공무원 조직의 권고를 거슬러 대사로 승진시킨 총리가 제안한 것이기도 함
지구상의 모든 운영체제에 거대한 변경을 3개월 안에 구현하라고? 조금이라도 가능성이 있는 이야기처럼 들리지 않음

Starmer가 별로 싫지는 않았는데, 이 일로 드디어 반-Starmer 진영에 올라타게 됨
남길 유산치고는 끔찍함. 가장 적은 비용으로 가장 큰 효과를 내려는 슬픈 시도임. 게다가 3개월? 어쩌면 본인이 총리로 남을 거라고 기대하는 기간이 그 정도인지도 모름

아마 Palantir 사람들이 거절할 수 없는 제안을 하고 있을 것임. 은퇴하고 석양 속으로 사라지기 전 마지막 밀어붙이기임

점점 조여지는 래칫임. 클라이언트 측 검사, 그 클라이언트 측 검사가 제대로 작동하는지 보장하기 위한 원격 증명, 디지털 신원 확인, 기타 등등

Signal이 이 문제에 빠르게 반대편에 서준 건 칭찬할 만함. 성급하게 만든 망치 같은 법안이 최선의 다음 단계라는 너무 강한 서사에 대한 반박으로 이 입장이 빨리 확산되길 바람
진짜 전진은 공동체, 신뢰, 타인에 대한 공감의 침식에 대한 이해와 해법을 만드는 쪽이어야 함. 이런 것들이 건강한 사회를 위한 투자, 정책, 거버넌스 부실의 증상일지도 모른다고 느낌. 물론 정치에 냉소적인 것처럼 들릴까 봐 책임을 묻자는 말은 하면 안 될지도 모르겠음

정치인들이 자기들과 보안 기구에는 예외 조항을 넣어뒀다는 걸 언제 알게 될까? 이번만큼은 내 비관이 틀렸으면 좋겠지만, 근거 없는 비관은 아님

이제는 거의 표준 조항임. 다들 서로의 숙제를 베끼고 있음

“감시는 안전이 아니다”
아닐 수도 있지만, 평균적인 사람이 그렇게 생각하는 한 사실상 그런 셈이 됨

평균적인 사람이 정말 그렇게 생각하나? 다른 사람들이 어떻게 생각할지에 대한 인식은 실제 생각과 항상 일치하지 않음