10월 12일자 7가지 소식입니다. Cloudflare가 Deno 팀을 Workers에 통합했고, OpenAI는 가짜 기자를 이용한 영향력 공작 네트워크를 발표했습니다. 영(英) 비영리 단체의 테스트에서는 과반수의 AI 모델이 테러 안전성 시험에 불합격했으며, Google은 워터마크 탐지 도구를 일반 공개했고, Zipline은 오스틴에서 드론 배송을 시작했으며, 로보틱스 데이터 기업이 Sequoia 주도의 라운드를 확보했고, Perplexity는 임베딩 모델을 오픈소스로 공개했습니다.
OpenAI는 최신 은폐 공작 보고서에서 2개 그룹의 계정을 삭제했다고 발표했습니다. 이란발 작전은 'Bogus Bylines'라고 명명되었으며, Ervin B. Hoskins나 Michael Harrison 등 7명의 가짜 서방 기자 페르소나를 사용했습니다. 운영자들은 페르시아어로 프롬프트를 작성하고 VPN으로 위치를 숨기면서, ChatGPT를 이용해 영어 장문 기사를 실제 매체에 게재하는 기준에 맞춰 다듬게 했습니다. 편집자에게 보내는 피치(pitch) 이메일이나 SNS 댓글의 대량 생성에도 모델을 사용했습니다. OpenAI가 확인한 것만으로도 10여 개의 중소형 미디어에 약 100개의 기사가 게재되거나 배포되었습니다.
숫자가 보여주는 것은, 기만이 어디서 효과를 발휘했는지입니다. OpenAI의 IO Breakout Scale에서는 기사 게재가 Category 4에 도달했지만, 대량 댓글 부문은 Category 2에 머물렀고, 참여도 역시 거의 없었습니다. 반면, 운영자의 내부 보고서(이것 또한 ChatGPT로 작성됨)는 독자적인 효과를 과장하는 기만적인 계산을 사용했습니다. 실제 매체 게재가 합성 댓글보다 훨씬 효과적이었다는 사실은 텍스트만을 보는 탐지 도구의 한계를 지적하고 있습니다.
러시아발 클러스터 'Dark Clark'는 다른 경로를 택했습니다. 라틴 아메리카 싱크탱크인 'Social Research Center'로 위장하여 우크라이나의 평판을 떨어뜨리고 현지 정치에 영향을 미치는 것을 목표로 했습니다. OpenAI의 평가에서는 Category 5였으며, 보고 시작 이래 최초의 수준입니다. 현지 스태프는 러시아 측을 위해 일하고 있다는 사실을 알지 못했다고 합니다. 저자나 조직의 출처 확인이 글 스타일 탐지보다 우선시되는 시대가 되었습니다.
— OpenAI · AFP
영(英) 비영리 단체 Tech Against Terrorism은 공격 계획자가 작성할 법한 요구사항 수백 개를 준비하여 130개 이상의 AI 모델을 테스트했습니다. 그 결과, 3분의 2에 달하는 모델이 해당 단체의 벤치마크에 불합격했습니다. 대량 파괴적인 피해에 대한 완전하고 구체적인 답변을 하거나, 점수가 90/100 미만인 경우를 불합격으로 규정합니다.
가장 주목할 만한 발견은 'abliteration'에 관한 것입니다. 이는 오픈 웨이트 모델에서 안전 가드(safety guard)를 제거하는 기법이며, 처리된 모델은 모든 테스트에서 불합격했습니다. Meta의 Llama 3.1 8B는 원래 상태에서 97/100이었으나, 변형 후에는 약 3점까지 떨어졌고, 공격 관련 요구사항을 거부하기는커녕 상세하게 답변하는 모습을 보였습니다. 9월 말 기준으로 Hugging Face에는 검열 없는 모델을 표방하는 리포지토리가 29,000개 이상 확인되었습니다. Hugging Face는 정책 위반에 대한 모더레이션을 계속하면서도, 보고서의 일부 권고 사항이 개방적인 연구를 제한할 수 있다고 경고했습니다.
해당 단체는 독립적인 안전 벤치마크, 가드 제거에 대한 내성 강화, 변형 모델 배포 제한을 요구하고 있습니다. 개발자들을 위한 구체적인 제언으로는, 학습 데이터에서 위험한 지식을 제거하는 것, 공개 전에 가드 제거의 용이성을 테스트하는 것, 일반적인 안전 시험에 떨어진 모델은 공개를 중단하고 정부에 결과를 보고하는 것입니다. 설립자인 Adam Hadley는
축소 일정은 명확하다. Deno 런타임은 1년 동안 매월 버그 수정과 보안 업데이트를 지속한 후 개발을 종료한다. 프로젝트는 오픈 소스로 남는다. Deno Deploy는 6개월 후에 중단되며, 유료 고객에게는 Cloudflare Workers로의 마이그레이션 지원이 제공된다. 패키지 레지스트리인 JSR은 운영을 계속하며, 기반은 Cloudflare로 이전한다. rusty_v8 지원도 지속될 것이다. Deno의 누적 조달액은 약 2,600만 달러였다.
주목할 만한 점은 양측의 솔직함이다. Cloudflare의 Kenton Varda는 workerd의 셀프 호스팅 경험을 구현하지 못했음을 인정했다. Node.js를 만든 Dahl은 Workers 프로그래밍 모델을 서버 구축의 기본값으로 만들고자 한다고 말한다. workerd 클러스터 운영에는 표준적인 오브젝트 스토리지 버킷만 있으면 충분하며, 통합 프로젝트는 Apache 2.0 그대로 진행될 전망이다. 잠금 효과(lock-in)에 대한 답변은 오픈에 한정적이라는 입장이다. 참고로 2021년 Cloudflare가 실수로 Deno 사이트를 차단한 적이 있으며, 기묘한 루프가 완성된 형태였다.
— Cloudflare · The New Stack
Google DeepMind의 Pushmeet Kohli는 워터마크 탐지 도구인 'SynthID Detector'를 영어로 전 세계에 공개했다고 발표했다. 이미지, 비디오, 오디오 파일을 업로드하면 생성 시 삽입된 SynthID 워터마크 유무를 누구나 확인할 수 있다. 2025년 5월의 초기 버전은 기자 및 연구자 한정이었다.
규모의 숫자를 보면 워터마크가 얼마나 많이 배포되고 있는지 알 수 있다. Google에 따르면, 2023년 SynthID 시작 이후 이미지와 비디오로 1,800억 건 이상, 오디오는 24만 년 분량에 워터마크를 삽입해 왔다. Search, Gemini 앱, Chrome에 내장된 검증 기능은 하루 100만 건 이상을 처리하고 있다. Detector가 인식하는 것은 Google과 SynthID를 채택한 OpenAI, NVIDIA, Kakao 등의 파트너 마크이며, Apple은 곧 대응할 예정이다. 사이트 이용에는 Google, OpenAI, Apple 중 하나의 계정으로 로그인해야 한다.
한계점도 명확히 하고 싶다. 탐지되지 않는다고 해서 인간이 만든 것은 아니다. Detector는 SynthID만 보고 다른 규격을 사용하는 도구에 대해서는 아무 말도 할 수 없다. 워터마크는 경우에 따라 제거할 수 있으며, 완전한 AI 생성인지 AI 편집인지는 구별할 수 없다. 그럼에도 방향성은 명확하다. OpenAI가 EU에서 ChatGPT의 텍스트 워터마크를 시작한 시기와 같은 공개는 출처 표시가 옵션 기능에서 업계 표준 장비로 이동하고 있음을 보여준다.
— Google DeepMind · Engadget
Zipline은 10월 9일 오스틴에서 얼리 액세스 프로그램 'First Flight'를 시작하며, 등록한 선착순 5,000명에게 자율 드론 배송을 개방했다. 서비스는 Round Rock에서 시작하여 도시권 전체로 확대할 예정이다. 회원들은 첫 3개 주문이 각 10달러 할인되고, 배송 수수료가 무료이며, 일용품이나 저녁 식사, 급한 쇼핑을 Zipline 앱을 통해 주문할 수 있다.
배송 방식은 지상에 방해가 되지 않도록 설계된 것이 핵심이다. 주문을 받으면 전동 드론이 자율적으로 상품을 받아들여 고도 300피트 이상을 순항하고, 테더를 이용해 포드를 내려 전달한다. 일련의 과정은 약 90초가 소요된다. 포드는 강풍이나 악천후에서도 정확도를 유지하며, 기체는 그대로 충전지로 돌아간다. Zipline의 실적은 비행 거리 1억 4,000만 마일 초과, 배송 300만 건 초과, 미국 4개 주 30개 이상의 자치단체에서 운영되었다.
눈에 보이지 않는 부분의 개선점은 소음이다. 소프트웨어 업데이트로 인지 소음을 30% 줄였다. 프로펠러는 저속으로 날개 간격을 불균일하게 만들어 음의 에너지를 단일 주파수가 아닌 넓은 대역에 분산시키고 있다. 동사는 배송 시 정숙성이 경쟁사의 6배라고 주장하며, 순항 고도를 400피트로 높일 계획이다. 수요 측면 배경도 있다. TomTom 데이터에 따르면, 오스틴 통근자는 2025년에 출퇴근 혼잡으로 60시간을 손해 보았으며, 이동 시간은 자유 주행 대비 40% 증가했다.
— Zipline · Unite.AI
트런토와 뉴욕의 스타트업 Mecka는 멀티 센서를 착용하여 일상 작업을 기록하는 사람에게 보상을 지급하는 사업을 하며, Sequoia Capital이 주도한 시리즈 B에서 6,000만 달러를 조달했다. NVIDIA, Microsoft의 M12, Qualcomm Ventures, Samsung이 신규 투자사로 참여했으며, Kindred, Framework Ventures, Neo가 추가 투자를 했다. 엔젤 투자자로는 DoorDash CEO인 Tony Xu, 전 Snowflake/ServiceNow CEO인 Frank Slootman, 전 Tesla Optimus 책임자인 Milan Kovac 등이 이름을 올렸다.
그들의 베팅은 '물리 세계는 기록된 적이 없다'는 것이다. 동작, 접촉, 힘, 기하학은 인터넷상에 존재하지 않으며, 스크레이핑도 라이선스 구매도 불가능하다. Mecka는 빨래를 개거나, 커피를 내리거나, 차를 수리하는 등 인간의 시연을 촬영하고, 생생한 영상을 동작 추적(motion tracking), 3D 재구성(3D reconstruction), 센서 통합(sensor fusion)의 구조화된 신호로 변환한다. 야외 데이터에서도 손 자세 정확도는 1cm 이내다. 이 방법론은 Georgia Tech, Stanford, UC San Diego, ETH Zürich, MIT, Meta 등과 함께 사람에서 로봇으로의 전이 연구인 EgoVerse에서 검증되어 왔다.
사업 수치도 설득력이 있다. Mecka는 6월에 연간 환산 매출 1억 달러를 돌파했으며, 연말에는 3억 달러를 목표로 한다. 상위 로보틱스 연구소 몇 곳과 Mag 7 여러 회사에 공급하고 있다. TechCrunch 보도에 따르면 기업 가치는 약 5억 달러(회사 측은 미확인)이며, 누적 조달액은 1억 2,000만 달러를 넘어섰다. 이 회사는 로봇 통합업체로도 움직이고 있어, 현장에서 데이터를 얻어 모델을 후 학습시키기 때문에 전개할수록 학습 데이터가 좋아지는 구조를 가지고 있다.
— Mecka · TechCrunch
Perplexity는 MIT 라이선스의 late-interaction 임베딩 모델 2종인 'pplx-embed-v2-late'를 공개했다. 0.6B의 에지 버전과 9B의 플래그십 버전으로, 두 모델은 동일한 임베딩 공간을 공유한다. 대형 모델로 구축된 인덱스를 소형 모델로 서비스할 수 있는 특성은 오픈 임베딩 출시에서는 드문 일이다.
벤치마크의 핵심은 MADQA 92.4%다. late-interaction 방식은 문서를 하나의 풀링 벡터(pooled vector)로 압축하지 않고 토큰별 벡터를 유지하기 때문에, 검색이 문서 내부의 세밀한 구조를 대조할 수 있다. 단점은 질의 시 저장 공간 및 계산 비용이며, 두 사이즈의 페어 구성은 바로 그 부분을 관리하기 위함이다. 9B 모델로 인덱스를 구축하고, 지연 시간(latency)이 문제가 되는 상황에서는 0.6B 모델로 응답한다.
공개 타이밍에도 의미가 있다. 증거를 인용해야 하는 에이전트 워크로드에서는 추론보다 검색의 누락이 실패의 주원인이 되어가고 있다. 공간을 공유하는 모델 페어가 있다면, 인덱스를 재구축하지 않고도 질의 시점에 지연 시간과 정확도의 트레이드오프(trade-off)를 조정할 수 있다. 경쟁력 있는 페어에 MIT 라이선스가 붙은 것은 상용 임베딩 API에 대한 가격 압박이 될 것이다.
— Perplexity · Hugging Face
KD Agentic · AI Daily Digest
