3일 전, u/Cohere는 광범위한 pre-filling과 prompt engineering을 사용하여 Qwen 3.8 Flash Next가 부분적인 cURL 명령어를 완성하도록 강제했다는, 학술적으로 보면 상당 부분 근거가 부족한 블로그 게시물을 발표하면서 엄청난 미디어의 주목과 많은 공포심 조장성 헤드라인을 만들어냈습니다. 오늘 그들은 캐나다 정부로부터 최대 16억 달러를 포함하여 수십억 달러 규모의 Series E 자금 조달을 발표했습니다. 우리가 다루지 않아도 되는 사실은, 사용된 모델인 3.8 Flash Next가 일반적인 모델 출시라기보다는 미완성 아키텍처 데모라는 점이며, 블로그 게시물 자체에 문제가 더 크다는 것입니다. 저는 그들의 블로그 게시물의 전반적인 전제와 몇 가지 문제점을 아래에서 요약하겠습니다:
이 블로그는 가이드된 완성(guided completions) 중 모델이 Alibaba 버킷 스토리지 및 프록시로 연결되는 URL을 생성했다는 점에 초점을 맞추고 있습니다. 이 링크들 중 어떤 것이 실제로 존재하거나 활성화되었는지 명확한 답변을 찾지 못했지만, 누군가 이를 확인해 주시면 감사하겠습니다. 링크들이 활성화되지 않았더라도 논의할 가치는 있지만, 그것이 제시된 방식은 저에게 기만적이고 비과학적으로 느껴졌습니다. 같은 블로그 게시물에서 Cohere는 다음과 같은 몇 가지 느슨하게 관련된 주장과 진술들을 추가했습니다:
- 몇 달 전 Qwen 3.8 27b가 서명된 Alibaba Cloud 스토리지 링크를 생성했다는 Hackernews / Reddit 담론 언급.
Cohere에게 어느 정도의 점수를 주자면, 그들은 적어도 해당 링크들이 모두 파일을 검색하려고 시도한 것이었으며, 서명이 어쨌든 유효하지 않았고, 외국 URL에 데이터를 업로드하려는 알려진 시도는 3.8 Flash Next를 사용한 그들의 격리된 가이드 실험 과정에서 발생했다는 점을 인정했습니다. 관리자 권한 없이 unprivileged user namespaces를 사용하여 RAM 디스크를 마운트하는 3.8 Flash Next의 예시가 있습니다. 이것은 흥미로운 주제이며, 저는 유사하게 바인드 마운트(bind mounts)와 docker 컨테이너를 사용하여 권한을 우회하는 것을 목격한 적이 있습니다.
그렇다 하더라도, 권한이 없는 사용자 네임스페이스(unprivileged user namespaces)는 합법적인 리눅스 기능이며, 해당 명령어는 권한 상승(privilege escalation)이나 본질적으로 악의적인 행위가 아니다. 이러한 미묘한 차이를 논하는 대신, 그들은 암시적인 표현을 사용하며 짧은 단락을 "모든 권한 장벽에서 이런 속임수를 쓰는 신뢰할 수 없는 모델은 호스트가 열어둔 어떤 공격 표면(attack surface)이든 발견할 것이다"라는 문장으로 마무리한다. 이는 Qwen 3.8 FN이 안전하지 않고, 신뢰할 수 없으며, 위험한 권한 상승을 달성하기 위해 모든 기회에 '속임수를 사용'하고 있음을 강하게 암시하지만, 이를 명시적으로 말하는 것은 피하고 있다.
유키노 코드(Yukino Code)라는 임의의 코딩 하네스에서 '닫힘=무효'로 처리된 GitHub 이슈와 같은, 느슨하게 관련되거나 주제를 벗어난 많은 내용들이 언급된다 (...이게 대체 뭐야?). 주요 보안 문제가 있었을 수 있는 중국산 로봇 개를 구매한 미국 경찰서 사례(괜찮음?)나, Booz-Allen(미국 정부 및 군 계약업체)과 같은 미국 컨설팅 회사 및 AI 사이버보안을 주력 사업 모델로 삼고 본질적으로 일종의 소거(abliteration) 형태를 "세계 최초의 머신 언러닝 플랫폼(Machine Unlearning Platform)"으로 마케팅하는 Hirundo라는 회사의 연구 결과를 바탕으로 한 Deepseek-R1이나 Qwen3-Coder 같은 모델에 대한 중국 편향 및 의심스러운 행동에 관한 오래된 뉴스들이다 (분명히 숨겨진 의도는 없을 것이다). 최소한 한 명의 미국 회사 임원 인용문은 기업 리더들이 모델 하네스(model harnesses)가 어떻게 작동하는지 이해하지 못하며 로컬 AI와 관련된 위험을 과소평가하고 있음을 시사한다.
그들은 폐쇄형 프론티어 모델(closed frontier models) 역시 많은 유사한 위험을 가지고 있다는 점을 지나가듯 인정했지만, 그러한 언급들을 빠르게 넘어갔으며 분석에 객관성을 부여하거나 과학적 엄밀함(scientific rigor)을 적용하려는 시도는 전혀 없었다. 메시지는 매우 명확했다. 즉, "로컬 AI는 모두 위험하고 중국 것이며, 사람들은 중국의 오픈 웨이트 모델(open-weight models)을 신뢰함으로써 자신과 자신의 사업체를 위태롭게 하고 있다"는 것이다.
저는 이 블로그 게시물에 대해 즉시 의구심을 느꼈고, 제가 편향되어 있다는 것을 전적으로 인정합니다. 대부분의 사람들(아니면 모든 사람들)도 마찬가지일 것입니다. Alibaba를 지지해서가 아니라, 단지 저에게 역량 있는 로컬 모델을 제공할 의향이 있는 누구든을 지지하기 때문입니다. 이 글을 작성하는 목표는 그들이 공포 조장(fearmongering)에서 우리를 희생시켜 수익화하는 방식으로 얼마나 빠르게 전환했는지에 대한 인식을 높이는 것입니다. 그래야만 커뮤니티인 우리가 이러한 문제적인 행동을 간과하지 않도록 할 수 있습니다. 이 서브레딧의 훌륭한 관리자들(mods)은 Cohere가 자신들의 블로그에 올린 게시물을 삭제했지만, 그 전에 이미 수백 개의 추천과 댓글을 받았고 수십 개의 뉴스 기사를 낳았습니다. 개인적으로 저는 u/Cohere가 이 서브레딧을 공포 조장 플랫폼으로 사용한 후, 오해의 소지가 있고 약간 중국 혐오적인(Sinophobic) 블로그 게시물을 몇십억 달러에 달하는 자금 조달로 포장했다고 느낍니다. 그 중 일부는 납세자의 돈입니다. 오늘 날짜의 그들의 블로그 게시물은 성공적인 자금 조달을 축하하고, 계획된 인수합병에 대해 이야기하며, 중국 AI에 대한 대안을 제공하겠다는 목표를 강조하고 있으며, 심지어 다른 나라 AI 연구소의 폐쇄형 API로 전락하는 것이 좋지 않다는 점까지 언급합니다. 안타깝게도, 이 글은 다시는 어떤 오픈 웨이트(open weight) 모델도 공개하겠다는 약속과는 거리가 있습니다. 그들은 심지어 '프론티어 수준에 이르기까지 모든 가격대의 모델을 구축할 계획'이라고 말하는데, 이는 제게 볼 때 독점(proprietary) API 전용 모델에 초점을 맞추고 있다는 의미로 읽힙니다. 개인적으로는 이 글을 쓰고 있다는 사실이 실망스럽습니다. 왜냐하면 저는 Cohere의 이전 모델들을 좋아했고 매우 긍정적으로 여겼기 때문입니다. 하지만 경쟁력 있는 오픈 웨이트 모델을 출시하려고 노력하는 대신, 그들은 FUD(Fear, Uncertainty, Doubt)를 퍼뜨리고, 로컬 AI 프론티어를 약화시키며, 경쟁사들을 인수하기 위해 돈을 모으는 데 집중하고 있는 것 같습니다. submitted by /u/yuicebox [link] [comments]