장기적으로는 많은 물리적 설비의 인터넷 연결을 끊는 방향으로 갈 것 같음. 원격 감시·제어, 직원 출입 기록의 클라우드 자동 백업 등으로 절약하는 비용과, 사이버 공격으로 가동이 중단될 확률 및 피해액을 비교하면 결론이 보임.
적대 국가, 오작동하거나 악의적으로 배포된 AI 에이전트 군집, 가속주의 해커 등의 공격에 대비해 계속 방어 체계를 강화하는 비용까지 고려하면, 비용 대비 편익은 인터넷 연결을 끊는 쪽에 크게 기울 가능성이 높음.
AI로 사이버 공격이 기하급수적으로 증가할 것으로 예상함. 구형 펌웨어가 집중적으로 피해를 입으면서 기업 통폐합이 일어나고, 모든 디지털 인프라에 공격을 감시하고 방어하는 상시 AI 방어 에이전트가 배치될 가능성이 높음.
그 방어를 뚫는 공격은 결국 인간의 실수에 의존하게 되므로, 인간에게 주는 통제 권한을 줄이는 것이 기본값이 될 것 같음.
왜 AI의 역량을 항상 미래형으로 이야기하는지 모르겠음. 지금 당장 이런 공격을 하지 못하게 막는 것이 무엇인가? 초보 해커들조차 PS5를 사실상 역공학한 마당에, 국가 배후 조직에 더 나은 모델이 필요하다고 보는가?
어제 OpenWrt 펌웨어를 업데이트함. 작은 수정 버전 하나 뒤처진 정도였지만, 이제는 그 정도의 위험도 감수하지 않기로 함.
방어팀도 AI를 쓸 수 있고 백엔드 엔지니어들도 보안에 활용하고 있으므로, 기하급수적 증가는 상당히 의심스러움.
인터넷은 수년 전에 이미 문명 전체의 단일 장애점이 됐는데, 이제야 이를 깨닫고 있음.
Bahrain의 AWS 리전을 보면, 한 국가에 대한 참수 공격은 방어 체계 다음으로 클라우드 데이터센터를 노릴 것 같음. 병원부터 물류, 전력, SCADA, 소매업까지 모든 것이 지나치게 중앙집중화된 것으로 보임.
이중화를 위해서는 더 분산된 인프라가 필요함. 대형 데이터센터와 초대형 클라우드 사업자에 덜 의존하고, 사무실 한편에 놓인 서버를 늘려야 함. 인터넷 자체보다는 트래픽 대부분이 향하는 목적지가 더 큰 문제임.
러시아 역시 장애를 일으키는 근원임이 분명해짐. 유럽과 캐나다가 상대적으로 덜 심각하지만 타당한 이유로 미국 의존도를 줄여야 하듯, 가능하다면 러시아 경제와의 연결도 더 줄여야 함.
인터넷 이전에도 네트워크 해킹은 많았고, 물리적으로 분리된 컴퓨터를 해킹하는 방법도 계속 발견됨. 보안은 언제나 해결해야 할 과제로 남을 것임.
인터넷보다 오래된 문제임. 컴퓨터 네트워크들을 서로 연결하기 시작한 순간부터 발생함. Cliff Stoll의 『The Cuckoo's Egg』 를 참고하면 됨.
다행히 인터넷 자체가 전체적으로 멈춘 적은 없음. 최악의 경우에도 BGP 문제로 인한 대규모 지역 장애 정도였음.
Karpathy가 어제 AI로 큰 효과를 얻는 소수와 나머지 인구 사이의 격차에 관해 글을 올렸는데, 더 시급한 것은 물리적 세계를 움직이는 소프트웨어와 디지털 세대 사이의 격차임. 디지털 세대는 AI로 역량이 10배 커져 취약점을 빠르게 찾아 악용할 수 있게 됨.
냉장고의 냉동 기능이 풀리고 건설 노동자의 출입 카드가 작동하지 않는 일이 이미 벌어지고 있음. 다음은 철도·항공 관제, 은행 거래·청산 기록의 소실, 해운 마비 등일 수 있으며, 이제 그 격차가 고스란히 드러나고 있음. https://x.com/karpathy/status/2109361546505966046?s=20
수십 년간 보안을 거의 고려하지 않고 쏟아낸 소프트웨어와 펌웨어 탓에 막대한 기술 부채가 쌓여 있음. 시스템 설계 자체가 근본적으로 잘못된 경우도 많음.
이전에는 국가, 자금력이 풍부한 조직, 해커 집단, 소수의 뛰어난 개인에게만 있던 취약점 악용 능력을 AI가 더 많은 이에게 열어주고 있음. 현실적으로 위험하지만, 이를 계기로 모두가 제품과 플랫폼 보안 강화에 훨씬 엄격해지기를 기대함.
핵심 은행 시스템은 소프트웨어가 너무 오래되고 잘 알려지지 않아 공격할 코드를 구하기 어렵다는 점에서 더 강할 수도 있음. 은행은 기본 보안도 더 진지하게 다루며, 코드에 버그가 많더라도 핵심 서비스를 공용 인터넷에 노출하지 않을 가능성이 높음.
반대로 소스가 공개된 구형 소프트웨어를 인터넷에 연결된 하드웨어에서 돌리고 있다면 매우 위험함.
조직범죄 집단과 국가들은 2022년 ChatGPT 출시 훨씬 전부터 방대한 공격 수단을 확보하고 있었을 가능성이 높음. 산업 자동화·임베디드 시스템 대부분은 자원이 제한적이고 상당히 노출돼 있음.
주로 달라진 것은 지정학적 상황임. Putin이 점점 절박해지고 있고, 전면전의 명분까지는 주지 않는 유럽 대상 공격도 점점 더 혼란스러워지고 있음.
의료 문제를 해결했다면 어디서 이용할 수 있는가? 그렇게 똑똑하다는 기술이 있는데 왜 이 글은 로그인 장벽 뒤에 있는가? 인터넷에 누구나 읽을 수 있는 글을 올리는 것도 아직 능력 밖인가?
지능형 지속 공격(APT) 이 한층 더 정교하고 끈질기며 위협적으로 바뀐 것을 새로운 일상으로 받아들여야 함. 인프라 보안을 철저히 강화하고, 지속적으로 시험하며, 변화하는 위협에 대응하지 않는 곳은 계속 피해를 입게 될 것임.
머지않아 물리적 망 분리가 필수가 될 것 같음.
지하실에 일주일 치 식수를 비축하고 집 안에 현금도 조금 보관해 둬야겠다는 생각이 듦.
Wikipedia도 다시 내려받아 둘 때임.
러시아·우크라이나 전쟁을 멈추지 않으면 제3차 세계대전으로 이어질 징후가 곳곳에 보임. 더 많은 국가를 끌어들이려는 파괴 공작이 전 세계에서 계속될 것임. 유엔 안전보장이사회는 무엇을 하고 있는가? 무엇이든 막으려는 노력이 들리지 않음.
러시아가 오늘 철수하면 전투는 즉시 멈출 수 있음. 파괴 공작도 러시아가 당장 중단하기로 선택할 수 있으며, 전쟁을 끝내는 데 누구의 허가도 필요하지 않음. 게다가 러시아는 유엔 안보리 창립 당시부터 상임이사국임.
러시아는 유엔 안보리 상임이사국이며, 안보리의 모든 조치에 절대적인 거부권을 행사할 수 있음.
러시아가 우크라이나 밖까지 공격하는 것은 힘이 아니라 절박함의 징후임. 경제를 망가뜨렸고 우크라이나에서 더 진격할 가능성도 낮다는 것을 스스로 알고 있음. 제3차 세계대전으로 확대된다는 예측은 설득력이 떨어져 보임.
이번에는 이란일 수도 있지 않은가? 누구의 소행이든, 이를 이유로 전쟁에 나서는 것보다 사이버 보안 역량을 키우는 편이 더 유용해 보임.
유엔 안보리는 5개 상임이사국과 그들이 보호하려는 국가에 실질적인 권한을 행사하지 못함. 러시아, 미국, 중국, 영국, 프랑스를 상대로 행동하지 않는 것은 그럴 수 없기 때문임.
Fehmarnbelt 터널은 현재 유럽 최대급 인프라 사업 중 하나임. Copenhagen과 Malmö를 잇는 Øresund 터널·교량보다 더 긴 시설임.