(https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.us-east-2.amazonaws.com%2Fuploads%2Farticles%2F5lp0kb7q6mu6g3dvbp1m.png)

며칠 동안 이 뉴스들을 가지고 앉아 어디서부터 시작해야 할지 고민해 왔다. 7월 9일은 두 개의 플래그십 모델이 몇 시간 간격으로 공개된 드문 목요일 중 하나였다. OpenAI는 세 가지 버전(Sol, Terra, Luna)의 GPT-5.6을 출시했고, 일론의 팀은 같은 아침에 Grok 4.5를 내놓았다. 기술 언론들은 당연히 이를 흥분해서 다뤘다. 치열한 벤치마크 차트들, 경쟁하는 가격표들, 온갖 쇼가 펼쳐졌다.

하지만 불꽃놀이 너머로 보면, 실제로 중요한 일은 하루 전에 일어났고 거의 주목받지 못했다. Databricks가 자체 엔지니어들의 실제 코드 변경 사항—10개 이상의 프로그래밍 언어에 걸친 수백만 줄의 코드—을 기반으로 구축한 벤치마크를 발표했다. 그리고 그들이 발견한 것은 기업이 AI를 구매하는 방식을 조용히 재편하고 있다: 몇 주 전 공개된 중국의 무료 버전을 포함한 오픈 소스 모델들이 일상적인 코딩 작업에서 가장 비싼 최첨단(frontier) 모델들과 동일한 역량 수준에 도달했으며, 비용은 약 3분의 2 수준이었다.

나는 이 이야기를 오랫동안 해왔다—공개 리더보드는 이제 쇼가 되어가고 있다. 모든 연구소는 여기에 맞춰 조정하고, 질문들이 학습 데이터로 새어 나오며, 점수들은 실제 세계의 의사 결정에 의미가 없을 정도로 부풀려진다. 실제로 변화를 만드는 것은 모델을 자신의 작업물과 자신의 데이터, 그리고 자신의 인프라 위에서 실행하는 것이다. Databricks는 직감이 아닌 숫자로 이것을 증명했다.

한편, Meta의 Oversight Board가 마땅히 받아야 할 관심보다 적은 관심을 받고 있는 보고서를 발표했습니다. 그들은 Anthropic, DeepSeek, Google, Meta, OpenAI의 모델들을 테스트했고, 불편한 사실을 발견했습니다. 즉, 모든 LLM이 표현의 자유를 제한하는 것으로 알려진 정부나 지도자들을 비판하려는 의지가 측정 가능할 정도로 부족하다는 것입니다. 거부 패턴은 일관성이 없고 종종 혼란스럽습니다. 한 모델은 중국에 대한 질문은 회피하면서 북한에 대해서는 자유롭게 의견을 제시할 수 있고, 다른 모델은 그 반대의 경우를 보입니다.

솔직히 말해서, 이것은 벤치마크 점수보다 패치하기 어려운 종류의 결함입니다. 안전성을 위해 파인튜닝(fine-tune) 할 수는 있지만, 이 맥락에서의 '안전성'은 정치적 자기 검열과 매우 흡사해 보입니다. 모델들이 정치적인 성명을 발표하는 것이 아니라, 자신이 어느 정도까지 조종되고 있는지 아는 능력이 정말로, 정말로 부족한 것입니다. 그리고 훈련 데이터 자체가 불균형하기 때문에(서구 민주주의 담론이 더 많고 권위주의 국가에 대한 비판이 적기 때문에), 이 편향은 RLHF로는 쉽게 풀 수 없는 수준으로 내재되어 있습니다.

여기에는 명쾌한 답이 없습니다. 하지만 이것이 일어나지 않는 척하는 것은 아무런 소용이 없을 것입니다.

좀 더 가벼운 이야기로 넘어가자면, 로컬 AI(local-AI) 도구 공간이 좀 더 현실적인 방식으로 흥미진진해지고 있습니다. 이번 주에 눈에 띈 두 가지 도구가 있었습니다.

Sigma는 Eclipse라는 로컬 LLM을 탑재한 Chromium 브라우저입니다. 모든 채팅 기록이 사용자의 기기 내에서 유지되며, 프롬프트가 외부로 전송되거나 클라우드 왕복(cloud round-trip) 과정이 없습니다. 하지만 이것만 고집하는 것은 아닙니다. 더 무거운 작업 처리를 위해 클라우드 모델을 연결할 수도 있습니다. 며칠 동안 테스트해 봤는데, 지연 시간(latency) 차이가 좋은 의미로 충격적입니다. 자체 GPU에서 작동하기 때문에 AI 사이드바가 즉각적으로 응답하는 것을 경험하면, 실제로 얼마나 자주 사용하게 되는지가 달라집니다. Perplexity Comet이나 Chrome의 Gemini 사이드바도 괜찮지만, 둘 다 네트워크 호출이 필요합니다. Sigma는 웹 서비스가 브라우저에 붙어 있는 느낌이라기보다는 네이티브 앱(native app) 같은 느낌을 줍니다.

다음으로 소개할 것은 Paper라는 디자인 도구입니다. 이 도구는 MCP를 통해 로컬 모델을 연결할 수 있게 해줍니다. 호스팅되는 서비스라 오픈 소스는 아니지만, 로컬-LLM(local-LLM) 통합이 매우 자연스러워서 클라우드 모델을 사용하고 있다는 사실조차 잊게 만듭니다. 디자인 작업을 하면서도 레이아웃을 서버로 전송하지 않고 AI 도움을 받고 싶은 분들에게는 주목할 만한 도구입니다. 다만 주의할 점은 아직 초기 단계라는 것입니다. 지원하는 모델이 제한적이고, MCP 설정 또한 플러그앤플레이(plug-and-play) 수준은 아닙니다. 하지만 방향성은 올바릅니다.

제가 잠시 멈칫하게 만든 또 다른 것이 있습니다. 'HalluSquatting'이라는 새로운 공격 벡터가 등장했습니다. 이는

최근에 유용한 것을 만들었나요? 저는 빠른 급여 추정치를 위해 PayCalc를 사용하고 있습니다. 프리랜서 요율 비교에 놀라울 정도로 편리합니다.