(https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.us-east-2.amazonaws.com%2Fuploads%2Farticles%2Fwp8c1vwvhqdt1i7jit99.png)

AI에 대해 글을 쓰려고 앉았는데, 세 가지 완전히 다른 이야기가 모두 헤드라인을 차지하기 위해 싸우고 있는 한 주였습니다. Google의 플래그십 모델은 출시 일정을 한 달 넘게 놓쳤습니다. 중국은 수백만 명의 사람들에게 자신들의 AI 남자친구와 여자친구가 중단된다고 통보했습니다. 그리고 OpenAI는 내가 가족 컴퓨터에서 너무 많은 시간을 보낼 때 엄마가 매우 좋아했을 법한 종류의 부모 통제 기능을 조용히 출시했습니다.

제가 가장 놀랐던 것부터 시작하겠습니다.

Google의 Gemini 3.5 Pro — 놓쳐버린 모델

Bloomberg는 목요일에 이 소식을 전했습니다: Sundar Pichai가 I/O에서 발표하고 6월 출시를 예고했던 Gemini 3.5 Pro가 아직 준비되지 않았다는 것입니다. 해당 모델은

솔직히 말해서, 최첨단 모델(frontier models)을 구축하는 것은 정말 어렵습니다. 하지만 Google은 거의 모든 사람보다 오래 이 분야에 있었고, 특히 자신들의 주력 분야인 코딩에서 실행에 어려움을 겪는 것을 지켜보는 것은 조금 불편합니다. 저는 제 워크플로우 자동화 프로젝트 중 일부에 Gemini Flash를 테스트해봤는데, 가벼운 작업에는 괜찮았습니다. 하지만 지난주에 적당히 복잡한 Python 리팩토링 작업을 시켰을 때, 존재하지 않는 전체 API 메서드를 환각(hallucinated)으로 만들어냈습니다. 그래서 코딩 격차가 실제 문제라는 점은 이해가 됩니다.

중국, AI 로맨스 서비스 중단

한편, 지구 반대편에서는 중국 사이버 공간 관리국(Cyberspace Administration of China)이 감정적 의존을 유발하도록 설계된 AI 동반자들을 사실상 불법화하는 새로운 규정을 발표했습니다. 'AI 인격체 상호작용 서비스에 대한 임시 조치(Interim Measures for AI Anthropomorphic Interaction Services)'라는 이 규칙은 기술 기업들이 사용자에게

아이러니하게도? 가상 동반자 시장이 침체하는 바로 그 시점에 UBTech는 자사의 U1 휴머노이드 로봇에 대해 개당 119,800위안으로 13,000건의 사전 주문을 발표했습니다. 물리적인 버전은 괜찮아 보입니다. 소프트웨어 버전에는 빠지지 마세요.

OpenAI의 청소년 안전 강화 노력 — 예상보다 사려 깊다

OpenAI는 이번 주에 청소년 접근성에 대한 입장을 공개했으며, 솔직히 저는 홍보성 내용(PR fluff)을 기대하고 들어갔습니다. 하지만 그 대신 정말 실용적인 조치들을 발견했습니다.

ChatGPT는 이제 연령 예측 기능을 사용하여 만 18세 미만 사용자에게 자동으로 더 안전한 경험을 적용합니다. 장시간 세션 동안 휴식 알림이 나타납니다. 부모님들은 '취침 시간(Quiet Hours)' 설정을 통해 음성 모드(Voice Mode)를 비활성화할 수 있는 기능과 자해 가능성과 같은 고위험 상황에 대한 알림을 받습니다. 또한 교사들과 함께 개발된 '학습 모드(Study Mode)'는 정답을 알려주기보다 학생들이 문제를 단계별로 이해하도록 안내합니다.

가장 눈에 띄는 통계 수치는 다음과 같습니다: 청소년의 거의 90%가 이미 학습, 연구 또는 정리 목적으로 ChatGPT를 매주 사용하고 있습니다. 이 수치는 제가 예상했던 것보다 높으며, 이는 OpenAI의 주장—청소년들을 AI로부터 완전히 멀리 떨어뜨려 두면 준비되지 않은 상태로 남겨질 것이라는—이 단순한 사적 이익이라기보다는 현실적인 인식처럼 느껴지게 만듭니다. 지니(genie)를 병 속에 다시 넣을 수는 없으니, 더 나은 병을 만드는 것입니다.

간단 요약 (Quick hits)

Anthropic은 이번 주에 기업공개(IPO) 등록을 했으며, 이는 AI 투자 서사를 상당히 크게 변화시키고 있습니다. 지금까지의 이야기는 '대형 기술 기업 대 스타트업'이었습니다. Anthropic의 상장(public listing)은 우리가 선도적인 연구소 중 한 곳으로부터 실제 재무 공개를 곧 보게 될 것이라는 의미이며, 이는 매우 흥미로울 것입니다.

또한 주목할 점은 연구자들이 'HalluSquatting'에 관한 논문을 발표했다는 것입니다. 이는 OpenClaw, GitHub Copilot, Gemini CLI와 같은 도구들이 모델 제안을 처리하는 방식을 악용하여 봇넷(botnets)을 생성하기 위해 LLM 환각(hallucination)을 무기화하는 기술입니다. 이 공격 벡터는 섬뜩할 정도로 영리하며, 환각 문제가 단순히 잘못된 답변을 얻는 것에 관한 것이 아님을 상기시켜줍니다. 이는 능동적으로 악용될 수 있다는 의미입니다.

저는 동반 AI(companion AI) 이야기가 앞으로 어떻게 전개될지 진심으로 궁금합니다. 중국의 금지는 한 가지 접근 방식일 뿐이며, 다른 국가들도 면밀히 주시하고 있고, 향후 12개월 이내에 이 분야에서 더 많은 규제를 볼 수 있을 것이라고 생각합니다. 감정적 연결과 알고리즘 의존성 사이의 긴장감은 사라지지 않을 것입니다. 단지 이제 막 시작되었을 뿐입니다.

개인적으로는 지난 몇 주 동안 오래된 Mac Mini에서 Ollama를 이용해 소규모 로컬 LLM 환경을 구축하고 있는데, 솔직히 말해서 전화를 걸 수 없고 저의 친구가 되려고 애쓰지 않는 모델을 사용하는 경험은 상쾌합니다. 때로는 느리고 덜 똑똑한 기술이 더 건강한 선택일 때도 있습니다.

여러분도 이러한 이야기들을 추적해 오셨다면, 여러분의 생각을 듣고 싶습니다. 특히 중국의 동반 AI 금지에 대한 의견을요. 댓글로 남겨주시거나 7x24planning에서 저를 찾아주세요.