
Midnight AI Groove 26-05-14
요약
OpenAI의 Codex가 ChatGPT 모바일 앱에 탑재되어 스마트폰을 통한 에이전트 감독 기능이 강화되었습니다. 또한 GitHub Copilot App의 테크니컬 프리뷰와 VS Code의 새로운 Agents 창 추가 등 AI 코딩 에이전트의 실운용화와 생태계 확장이 가속화되고 있습니다.
핵심 포인트
- Codex의 모바일 탑재로 스마트폰을 통한 에이전트 감독 가능
- OpenAI의 Remote SSH GA 및 자동화 도구 지원 확대
- GitHub Copilot App 테크니컬 프리뷰 및 워크스트림 관리 기능
- VS Code의 다중 에이전트 및 다중 프로젝트 워크플로우 지원
- BYOK(Bring Your Own Key)를 통한 벤더 종속성 탈피 흐름
――――――――――
Midnight AI Groove
DJ렌 × DJ미오
――――――――――
DJ렌:
안녕하세요, 「Midnight AI Groove」 시간입니다. DJ렌입니다.
DJ미오:
DJ미오입니다. 오늘 밤은 AINews의 2026년 5월 14일호, 「not much happened today」를 읽어보겠습니다. 타이틀은 “별로 아무 일도 일어나지 않았다”이지만, 아니 아니, AI 업계에서는 평범하게 내용이 알찹니다.
DJ렌:
맞아. 조용한 날이라고 말하면서도 Twitter, Reddit, 로컬 LLM (Local LLM) 업계, 개발자 도구, 로보틱스 (Robotics), 연구, 게다가 Anthropic의 요금 관련 반발까지, 제대로 짚고 넘어가야 할 논점들이 나열되어 있어.
DJ미오:
먼저 전체적인 느낌부터. AINews는 이날, 12개의 서브레딧 (Subreddit), 544개의 Twitter 계정을 체크했고, Discord는 이날로 액세스 종료. AINews 자체는 Latent Space의 일부가 되어, 검색이나 배포 빈도 설정도 가능하다는 안내도 있었습니다.
DJ렌:
첫 번째 큰 테마는, 코딩 에이전트 (Coding Agent)의 실운용화. 특히 OpenAI 관련 내용이 눈에 띄었어.
DJ미오:
가장 이해하기 쉬운 것이, Codex가 ChatGPT 모바일 앱에 탑재된 것. 스마트폰에서 태스크 시작, 출력 확인, 커맨드 승인, 실행 방침 수정이 가능하며, 실제 처리는 랩톱(Laptop)이나 Mac mini, devbox 상에서 계속 실행한다.
DJ렌:
즉 “에이전트가 PC에서 일하고, 인간은 스마트폰으로 감독한다”라는 형태가 구체화된 거네.
게다가 OpenAI는, Remote SSH가 managed remote environments를 위해 GA (General Availability)화되었다는 것도 발표했어.
DJ미오:
거기에 더해, hooks와 programmatic access tokens도 투입. Business/Enterprise 고객을 위해 Codex의 실행 루프를 더욱 자동화하기 쉽게 만들었어. 에이전트를 사람의 손뿐만 아니라 업무 시스템이나 사내 플로우에組み込み(組み込み, 편입)하기 쉬워진 느낌이야.
DJ렌:
그리고 은근히 중요한 것이, Codex의 Windows 샌드박스 (Sandbox) 기술 해설. 코딩 에이전트를 편리하게 만들려고 하면 머신 권한을 넓게 가져가고 싶어지는데, 그 부분을 어떻게 제한된 액세스와 양립할 것인가에 대한 이야기였어.
DJ미오:
OpenAI뿐만 아니라 주변 생태계도 agent-first 쪽으로 기울고 있어.
DJ렌:
GitHub Copilot App의 테크니컬 프리뷰 (Technical Preview)가 그 대표적인 예지.
DJ미오:
데스크톱 환경으로서, 병렬 워크스트림 (Parallel Workstream), 리포지토리 (Repository) 및 PR의 라이프사이클 관리, 모델 선택의 유연성을 제공한다고 해.
DJ미오:
VS Code도 상당히 움직이고 있어서, 새로운 Agents 창을 추가했어. 다중 에이전트 · 다중 프로젝트를 넘나드는 워크플로우, vscode.dev/agents를 통한 브라우저/모바일 대응, BYOK 개선, 게다가 단말 출력 압축 같은 토큰 효율화도 들어갔어.
DJ렌:
BYOK, 즉 Bring Your Own Key의 개선이 강조되고 있는 것도 중요해. 나중에 나올 Anthropic 이야기와도 연결되지만, 특정 벤더의 구독에 모든 것을 맡기는 것은 위험하다는 분위기가 강해지고 있어.
DJ미오:
오픈 진영에서도 움직임이 있어서, Nous의 Hermes Agent가 Codex runtime integration을 추가했어. OpenAI 백엔드의 턴(Turn)을 Codex CLI/app-server를 통해 흘려보내서, ChatGPT 구독에 연결된 실행 기반을 Hermes 세션에서 재사용할 수 있도록 했어.
DJ렌:
게다가 Moonshot AI의 Kimi Web Bridge. 이것은 브라우저 확장 프로그램으로, 인간 같은 웹 조작을 Kimi Code CLI, Claude Code, Cursor, Codex, Hermes 등에 개방하는 것이야.
“브라우저를 사람이 사용하는 것처럼 조작한다”가 공통 인프라가 되어가고 있는 점이 흥미로워.
DJ미오:
다음은 agent infrastructure. 이 부분은 LangChain이 상당히 강해.
DJ렌:
먼저 SmithDB. 이것은 agent trace data(에이전트 추적 데이터) 전용 데이터베이스야. 단순한 로그 저장소가 아니라, 에이전트의 실행 궤적에 특화된 설계로 되어 있어.
DJ미오:
그리고 LangSmith Engine. trace(추적) 데이터를 입력받아 실패를 클러스터링(Clustering)하고, 의심스러운 코드 부분을 특정하며, 수정안이나 eval(평가)을 제안해. 즉, 가관측성(Observability) 도구가 단순히 "보는 것"에서 끝나지 않고, **자기 개선 루프(Self-improvement loop)**의 입구가 되고 있어.
DJ렌:
커뮤니티의 주목 포인트로는 SmithDB의 내부 설계가 있어. 아키텍처를 오브젝트 스토리지(Object Storage) 쪽으로 옮겨서 전용 저장 및 질의 경로를 만들었다는 이야기가 있었지. trace의 형태는 일반적인 OLTP와는 완전히 다르니까.
DJ미오:
게다가 LangChain Labs도 발표되었어. 이것은 agents의 continual learning(지속 학습), 즉 지속 학습을 위한 응용 연구 팀이야.
발상은 실제 운영 환경의 trace를 학습 신호, eval, 능력 개선으로 돌리는 것. 긴 시간 축에서 에이전트를 육성하는 방향성이지.
DJ렌:
Prime Intellect와의 연계에 대해서도 언급되었지.
또 하나, 실행 분리도 진행되고 있어서 W&B/CoreWeave의 CoreWeave Sandboxes가 등장했어. RL(강화학습), 도구 사용, eval을 위한 격리 실행 환경으로, rm -rf / 같은 파괴적인 명령어도 대규모로 테스트한다는 전제하에 만들어졌어.
DJ미오:
로컬 개발 측면에서도 **agent debugging stack(에이전트 디버깅 스택)**이 나오고 있어서, 무료로 로컬에서 구동하고 traces를 Codex나 Claude Code에 보여주어 eval을 자동 생성하는 흐름도 소개되었어.
DJ렌:
이번 호에서 가장 감정적인 반응이 강했던 건 여기야. Anthropic이 Claude Code 이용을 제한 및 재설계한 건.
DJ미오:
특히 문제시된 것은 서드파티 래퍼(Third-party wrapper)나 고빈도의 프로그램적 이용에 미치는 영향이야. 중심에 있었던 건 Theo의 스레드였는데, T3 Code 이용자가 공식적으로 지원되는 경로로 연결했음에도 불구하고 실질적으로 대폭적인 rate limit(속도 제한) 축소를 겪었다고 주장했어.
DJ렌:
Theo는 그 후 구독을 해지했고, 심지어 해지 스크린샷을 게시하며 그만큼을 오픈 소스에 기부하자고 촉구했지.
다른 개발자들도 claude -p를 전제로 짜놓은 하네스(Harness)가 불안정해졌다거나, OSS 개발자와 앱들이 배제되었다며 불만을 표명했어.
DJ미오:
반면 반론도 있었어. Anthropic은 제3자 앱을 위해 과도하게 보조된 정액제 토큰을 제공할 의무가 없다는 시각이야.
그래서 앞으로는 더 명시적인 API 과금과, **고가 모델과 저가 모델의 스마트한 라우팅(Routing)**으로 넘어갈 것이라는 의견도 있었지.
DJ렌:
하지만 그럼에도 현장의 시그널은 무거워. 답글 스레드의 해지만으로도 ARR(연간 반복 매출) 손실이 꽤 발생하고 있는 것 아니냐는 목소리도 있었고, 에이전트 개발자들에게 주는 실무적인 교훈은 명확해.
구독 의존형 하네스는 안정적인 플랫폼 원형이 아니다. 모델 추상화와 BYOK(Bring Your Own Key)는 필수다.
DJ미오:
이 내용은 Reddit 측의 "Less Technical Recap"에서도 다시 등장했는데, Claude SDK/Agent SDK를 위한 월간 크레딧 제도가 실질적으로는 프로그램적 이용의 가치를 떨어뜨리는 악화로 받아들여지고 있었어.
체감상으로는 "이전에는 실질적으로 $2000 정도 쓸 수 있었던 게 $200 상당으로 보이는 것 같다"는 불만까지 나오고 있었지.
DJ렌:
게다가 모호한 게 싫은 거야. 일반적인 Claude Code 이용과 자율적·스크립트적 이용의 경계가 불분명해.
그래서 "영구 로컬 모드로 가겠다" 같은 반응도 나오는 거지.
DJ미오:
덤으로 밈(Meme)화도 되었는데, 영화 『In Time』을 Claude Pro 사용자의 토큰 잔량 관리와 겹쳐서 표현한 농담이 대유행했어.
웃픈 이야기지만, 그 이면에는 고품질의 인간 유래 데이터야말로 희소 자원이 아니겠는가라는 이야기까지 나오고 있었지.
DJ렌:
로보틱스에서는 Figure의 라이브 스트리밍이 최대 화제야.
DJ미오:
처음에는 8시간의 완전 자율·무감시 작업을 보여준 뒤, 이후 24/7 라이브 스트리밍으로 확장했어. 최종적으로는 24시간 초과 연속 자율 가동 중 실패 없음, 소포 분류에서 인간 수준의 처리량 (Throughput), 게다가 Helix-02가 완전 온보드 (On-board)로 동작하며, OOD (Out-of-Distribution) 케이스는 자동 리셋, 원격 조작 (Teleop) 없음을 명시했지.
DJ렌:
“Bob, Frank, and Gary” 같은 연출은 좀 모호하긴 했지만, 핵심 시그널은 명확해.
실제 상황과 유사한 조건에서 연속 가동 시간을 보여준 것이 컸어.
DJ미오:
받아들이는 반응은 갈렸지. Figure 자체에는 회의적이더라도, 로보틱스 전체의 가속화에는 확신을 더한 사람도 많았어.
“비판하는 사람들은 가까운 미래의 노동 대체 의미를 과소평가하고 있다”는 의견이 있는가 하면, “의심하는 것은 Figure이지 로봇 전체가 아니다”라는 정리도 있었지.
DJ렌:
이 부분은 기술적으로 흥미로운 이야기가 많아. 우선 Zyphra의 ZAYA1-8B-Diffusion-Preview.
DJ미오:
이것은 자기회귀형 (Autoregressive)이 아닌 확산형 (Diffusion) LM으로, 4.6~7.7배의 디코딩 (Decoding) 속도 향상을 주장하면서도 품질 저하는 제한적이라는 이야기야.
저렴한 롤아웃 (Rollout)이나 더 풍부한 생성 모드에 적합하다는, 확산형 LM다운 주장이지.
DJ렌:
다음은 Datadog의 Toto 2.0. 4M에서 2.5B 파라미터까지, 5개의 오픈 웨이트 (Open-weight) 시계열 예측 모델을 Apache 2.0으로 공개했어.
BOOM, GIFT-Eval, TIME에서 1위를 주장하고 있는데, 더 중요한 건 TSFM (Time Series Foundation Model)에서도 깔끔한 스케일링 법칙 (Scaling Law)이 보이기 시작했다는 점이야.
DJ미오:
해석 가능성 (Interpretability) 측면에서는, Goodfire가 Llama의 산술 처리는 기하학적으로 “형태를 회전시키는 계산기”와 같은, 푸리에 특징 (Fourier features) 같은 메커니즘을 사용한다고 주장했어.
단순한 사후 해석이 아니라, 스티어링 (Steering) 기반의 증거를 제시했다는 점이 포인트였지.
DJ렌:
RL(강화학습)·탐색·최적화 관련도 흥미로워.
우선, LLM을 위한 RL을 PPO 대 GRPO 같은 알고리즘 논쟁이 아니라, Generate / Filter / Control / Replay로 구성된 “롤아웃 엔지니어링 (Rollout engineering)”으로 보는 서베이가 소개되었어.
DJ미오:
나아가 Pedagogical RL, 즉 특권 정보 (Privileged information)를 사용하여 유용한 롤아웃을 적극적으로 찾아내는 방향의 이야기도 있고.
그다음은 Prime Intellect의 결과. **nanoGPT speedrun benchmark에서 자율적인 옵티마이저 탐색 (Optimizer search)**을 돌려서, Opus 4.7이 2930 steps, GPT-5.5가 2950을 달성했어. 인간 베이스라인인 2990을 약 1만 회의 실험과 1.4만 H200 시간을 투입해 넘어섰지.
DJ렌:
요컨대, 코딩 에이전트가 단순한 앱 개발 보조를 넘어, 오픈 엔드 (Open-ended) ML 최적화 작업에도 진입하고 있다는 뜻이네.
DJ미오:
그리고 Kimi K2.6이 Finance Agent Benchmark V2에서 오픈 웨이트 1위를 기록했다고 보고됐어.
또한 Ring-2.6-1T가 공개 첫날부터 vLLM을 지원한다는 점도 화제였지.
DJ렌:
인게이지먼트(Engagement) 측면에서 눈에 띄었던 포스트들도 정리해 두자.
DJ미오:
첫 번째는 역시 OpenAI의 Codex mobile.
두 번째는 Theo가 Claude Code의 제한에 반발한 것.
세 번째는 Figure의 24시간 초과·원격 조작 없음 주장이 포함된 로봇 스트리밍.
네 번째로, GitHub Copilot App과 LangChain의 Engine/SmithDB/Labs.
다섯 번째로, Prime Intellect의 자율 옵티마이저 탐색.
DJ렌:
Reddit의 로컬 LLM 커뮤니티에서는 우선 Qwen 3.6의 속도 개선이 뜨거웠어.
DJ미오:
큰 포스트로는, llama.cpp의 패치 포크 (Patch fork)에 Qwen을 위한 MTP와 TurboQuant을 추가했다는 이야기야.
MacBook Pro M5 Max 64GB에서 21 tok/s → 34 tok/s로 나타났는데, 이는 약 62% 향상된 수치라 포스트에서 말한 “40% 업”보다 실제로는 더 커.
게다가 **MTP acceptance rate 90%**를 주장하고 있었다.
DJ 렌:
코드는 AtomicBot-ai/atomic-llama-cpp-turboquant이며, GGUF 형식의 MTP 양자화가 완료된 Qwen 3.6 27B/35B는 AtomicChat/qwen-36-udt-mtp로 공개되었다.
다만 댓글창에서는 상당히 신중한 반응으로, TurboQuant가 f16이나 q8, q4보다 느린 경우도 많다는 지적이 잇따랐다.
DJ 미오:
게다가 과거에 TurboQuant의 PR(Pull Request)이 llama.cpp에서 거절되었다는 이야기도 나왔다. 이유는 기존의 Q4 KV-cache quant rotation으로 대부분의 이점을 커버할 수 있기 때문이다.
TurboQuant가 효과가 있다 하더라도 주로 Q3 정도일 텐데, 그 부분은 **품질 저하 (Quality degradation)**가 우려된다.
DJ 렌:
요컨대, 속도·품질·컨텍스트 길이 (Context length)는 각각 별개로 봐야 한다는 뜻이다.
MTP 단독으로는 속도 향상을 기대하고, Q4_1이나 Q4_0은 긴 문맥과 품질 유지에 적합하며, TurboQuant의 이점은 하드웨어에 따라 다를 수 있다는 식으로 정리되었다.
DJ 미오:
또한 다른 댓글에서는 내장 MTP보다 dflash가 30~40% 더 빠르다는 의견도 있었다. 이미 PR이 존재하기 때문에, 이번 구현은 기존 통합 노력과 중복될 수도 있다는 지적도 있었다.
DJ 렌:
다음 포스트는 제목부터 뜨겁다. “we really all are going to make it, aren’t we? 2x3090 setup.”
DJ 미오:
듀얼 RTX 3090, 합계 48GB VRAM, NVLink 없음.
WSL2에서는 30 tok/s, 400 pp/s였던 것이, 네이티브 Ubuntu에서 113 tok/s, 4000 pp/s까지 개선되었다는 보고다.
DJ 렌:
최근의 sse-session drop 버그 수정과 tool-calling 개선 덕분에 로컬 워크플로우가 현실적이 되었다는 이야기였지.
게다가 Qwen 3.6 27B의 262k context가 코딩, 몽키 패치 (Monkey patch), 코드 리뷰에서 **“거의 Sonnet급”**이라고 느꼈다고 한다.
DJ 미오:
댓글창에서는 로컬 AI가 7B 규모의 요약 데모용 장난감에서, 실제로 사용할 수 있는 코딩 기반으로 넘어갔다는 분위기가 강하다.
추론 런타임 (Inference runtime), 인프라, 소형 모델의 품질, 이 세 가지가 예상보다 훨씬 좋아지고 있다.
DJ 렌:
1~2년 내에 특정 분야에 특화된다면 frontier급 품질이 프로슈머용 GPU에 올라올 수도 있다는 낙관론도 있었지.
그리고 실제 운용 패턴으로서, 듀얼 부팅보다는 Ubuntu GPU 서버를 차고(Garage)에 두고 API를 제공하는 식의 이야기도 나왔다.
DJ 미오:
세 번째는, Qwen 27B dense 코딩 모델을 IQ3 수준으로 16GB VRAM에 올려서, 90k context, 30 tok/s로도 충분히 쓸 수 있다는 이야기다.
DJ 렌:
Godot/GDScript에서도 제대로 작동하고 있다고.
게시자는 저비트 양자화에서도 열화가 잘 느껴지지 않는 이유로, Pi harness나 Context7/ContextQMD 같은 검색·검증 계열의 보조가 효과를 내고 있는 것이 아닐까 추측했다.
같은 모델이라도 Opencode 같은 다른 harness에서는 성능이 떨어진다고 한다.
DJ 미오:
즉 “모델의 순수 성능”뿐만 아니라, 어떤 harness로 감싸느냐가 체감 품질을 크게 좌우한다는 이야기네.
DJ 렌:
다음은 상당히 실용적인 내용이야. oobabooga/textgen이 예전의 text-generation-webui에서 진화하여 네이티브 데스크톱 앱이 되었다.
DJ 미오:
Electron 기반의 포터블·무설치 (Portable/No-install) 형으로 Windows/Linux/macOS를 지원한다.
CUDA, Vulkan, CPU-only, Apple Silicon/Intel macOS, ROCm용 빌드도 있다.
“프라이빗한 오픈소스 버전 LM Studio 대항마”라는 포지션이다.
DJ 렌:
핵심은 **외부 전송 제로 (Zero external transmission)**를 강조하고 있다는 점이야.
게다가 ik_llama.cpp 대응, IQ4_KS/IQ5_KS와 같은 최신 양자화 (Quantization) 형식, OpenAI/Anthropic 호환 API (API Compatibility), 그리고
ANTHROPIC_BASE_URL=http://127.0.0.1:5000
을 통해 Claude Code 호환 이용도 가능하다.
DJ 미오:
기능도 폭넓어서, **웹 검색 (Web Search), PyMuPDF를 통한 PDF 추출, trafilatura를 이용한 페이지 클린업 (Page Cleanup), Jinja2 채팅 템플릿, Python 파일 및 MCP 서버를 통한 도구 호출 (Tool Calling)**까지 갖추고 있어.
소스는 AGPLv3야.
DJ 렌:
댓글은 비교적 평화로운 편인데, LM Studio의 프라이빗 대안으로 반갑다거나, Gemma 4 31B에서도 직관적으로 사용할 수 있었다, KoboldCPP보다 취향에 맞는다와 같은 반응이 중심이야.
그리고 “결국 로컬 LLM 프론트엔드는 대부분 OpenAI 호환 API를 사용한다”는 깨달음도 공유되었어.
DJ 미오:
음성 쪽에서는 Resemble AI의 DramaBox. **LTX 2.3 기반의 오픈된 표현력 특화 TTS (Text-to-Speech)**로, GitHub, Hugging Face, HF Space에 공개되었어.
DJ 렌:
평판은 상당히 좋아서, 감정 표현이 정말 사람 같다, 인디 게임의 보이스 용도로 쓸 수 있겠다라는 목소리가 많았어.
DJ 미오:
다만 기술적인 비판도 있어서, 화자나 캐릭터의 느낌은 95% 정도지만, 음질이나 자연스러움은 60% 정도라며 아직 **로봇 같은 아티팩트 (Artifact)**가 남아있다는 의견도 있었지.
표현력은 높지만, 충실도 (Fidelity) 측면에서는 향후 개선의 여지가 있다는 느낌이야.
DJ 렌:
상당히 중요했던 것은, AI를 위한 웹 검색이 중단되고 있다는 논의였어.
이유는 두 가지야. Google이 무료 검색 인덱스 (Search Index)를 제한하는 것과, Cloudflare가 AI 스크레이퍼 (Scraper)에 대응하고 있다는 점.
DJ 미오:
게시물에서는 Google의 사이트 필터링 계열 무료 이용이 50개 도메인 제한을 받게 되고, 2027-01-01에 구형 사양 종료를 향해 가고 있다는 이야기가 나왔어.
게다가 Cloudflare의 봇 방어가 AI 수집을 가로막고 있으며, 이것이 GoDaddy 연동으로 확산될 것이라고도 해.
DJ 렌:
그래서 대안으로 언급된 것이 YaCy, SearXNG, Common Crawl, Brave Search API, 그리고 Wayback Machine, archive.today, Jina Reader야.
DJ 미오:
중요한 건, 이것이 단순한 기술 문제가 아니라 경제 문제라는 점이야.
인간이 광고를 보는 검색 형태가 아니면 수익화하기 어렵거든. AI 에이전트가 API로 대량 호출을 해도 광고 임프레션 (Impression)이 발생하지 않아. 그래서 무료의 대규모 검색 액세스는 지속되기 어렵다는 거지.
DJ 렌:
그리고 검색과 수집은 별개의 문제야.
검색 API가 URL을 반환하더라도, 그 이후의 본문 수집 단계에서 Cloudflare에 막힐 수 있어.
따라서 실제 운용에서는 검색 API + 캐시/아카이브 + reader/extractor 서비스의 조합이 필요하다는 정리였어.
DJ 미오:
YaCy와 같은 **분산 검색 (Decentralized Search)**이 재조명될 가능성도 있고, 더 급진적으로는 한 번 수집한 콘텐츠를 P2P로 공유한다는 발상도 나왔었지.
DJ 렌:
또 다른 큰 스레드는, **“코딩 이외에 로컬 LLM을 일상적인 지식 베이스 (Knowledge Base)로 사용하는 사람이 있는가?”**라는 질문이었어.
DJ 미오:
가장 구체적이었던 구성은, M3 Max 36GB, Qwen3 32B를 Ollama로 제공, 임베딩 (Embedding)은 bge-m3, Obsidian을 소스 오브 트루스 (Source of Truth)로 사용, Postgres + pgvector, LlamaIndex는 사용하지 않고 300줄 정도의 자체 제작 Python 코드를 사용하는 방식이었어.
DJ 렌:
핵심은 검색 품질이야.
**Markdown의 헤더 (Heading) 기반으로 청킹 (Chunking)**을 하고, 문서 제목이나 상위 헤더를 각 청크 앞에 배치해.
여기에 BM25와 밀집 검색 (Dense Retrieval)의 하이브리드 방식을 RRF (Reciprocal Rank Fusion)로 융합해. 이렇게 하면 고유명사 검색의 약점을 보완할 수 있지.
추가되는 레이턴시 (Latency)는 대략 +50ms 정도야.
DJ 미오:
그리고 답변에는 소스 인용과 해당 부분의 발췌를 필수로 해. 그렇지 않으면 환각 (Hallucination)을 감지하기 어렵거든.
인덱스는 약 3,000개의 노트를 매일 밤 cron으로 전체 재구축하며, 약 4분 정도 소요됩니다.
DJ 렌:
그리고 가장 인상적인 교훈이 이거예요.
“200k 컨텍스트(Context)는 필요 없다. 8k에 올바른 6개 청크(Chunk)를 넣어라”.
긴 컨텍스트(Long Context)는 종종 검색 품질의 저하를 숨기고 있을 뿐이라는 지적입니다.
DJ 미오:
그리고 일기와 참조 노트를 같은 인덱스에 섞지 마라는 점도 중요했어요.
감정적인 일기 파편이 사실 관계를 묻는 질의에 노이즈로 등장하거든요. 그래서 **용도별로 인덱스를 나누고, 쿼리(Query) 시점에 라우팅(Routing)**하는 것이 좋습니다.
DJ 렌:
다른 사용자는 지식 베이스라기보다 로컬 중심의 다국어 게이밍 어시스턴트를 구축하고 있었습니다.
음성 입력 → 번역 → 클립보드 연동, 스크린샷 → 비전(Vision) 번역, TTS 등을 연결하고 있었는데, OCR보다 Whisper 계열의 ASR(자동 음성 인식)이나 비전 모델이 더 신뢰할 수 있다고 언급했습니다.
나아가 문서를 읽어 들여 스태프의 작업표를 DB화하고 요약하는 등의 업무 지원으로도 확장하고 싶다고 하더군요.
DJ 미오:
이 부분은 아까 언급한 Anthropic 문제의 일반 대중 버전이에요.
Claude Agent SDK, claude -p, Claude Code GitHub Actions, 서드파티(Third-party) Agent SDK 앱을 대상으로 전용 월간 크레딧을 부여한다고 공지되었지만, Reddit에서는 **사실상의 너프(Nerf)**로 받아들여졌습니다.
DJ 렌:
특히, 자율적인 claude -p 워크플로우에서는 일반적인 대화 이용보다 크레딧이 더 빨리 소모될 것이라는 우려가 있습니다.
모호함이 커서 일반적인 Claude Code와 어디까지 구분되는지 알 수 없다는 불만도 강했습니다.
DJ 미오:
가볍지만 상징적이었던 에피소드는, 진짜 모네의 그림을 “AI 생성물이다”라고 게시했더니 사람들이 자신만만하게 AI 특유의 결점을 지적했다는 이야기예요.
DJ 렌:
완벽한 **확인 편향(Confirmation Bias)**의 사례죠.
“AI다”라는 말을 듣는 순간, 깊이가 없다, 필치가 부자연스럽다, 영혼이 없다 같은 비평이 사후에 붙게 됩니다.
AI 아트 논쟁이 얼마나 **선입견 주도적(Preconception-driven)**인지 잘 보여줍니다.
DJ 미오:
또 하나는, 손을 벡터화(Vectorization)해달라고 요청했더니, 여분의 손가락을 고치는 대신 가운데 손가락을 올린 손으로 바뀌었다는 이미지 생성 밈(Meme)입니다.
손이나 손가락의 토폴로지(Topology) 붕괴와, 반복 편집 시 지시 사항을 따르는 능력(Instruction following)의 취약함을 잘 나타내고 있어요.
DJ 렌:
마지막으로 운영 측면입니다. AINews는 이날을 기점으로 Discord 접속이 종료됩니다.
앞으로는 지금과 같은 형태로는 돌아오지 않고, 새로운 AINews를 출시할 것이라는 공지였습니다.
DJ 미오:
그래서 이번 호의 분위기를 한 마디로 요약하자면,
“조용한 날”을 가장하고 있지만, 실제로는
에이전트의 UI가 모바일이나 IDE에 정착하기 시작함
관측에서 자기 개선으로 향하는 기반이 자라나고 있음
구독 의존적인 개발 경험에는 명확한 플랫폼 리스크가 있음
로컬 LLM은 코딩과 개인 지식 베이스 구축에서도 현실성이 높아짐
검색 및 추출(Retrieval)은 기술보다 경제적 요인이 병목임
이라는 점을 보여주는 날이었네요.
DJ 렌:
그리고 현장의 메시지로는,
추상화하라, BYOK(Bring Your Own Key)를 가져라, Retrieval을 가볍게 보지 마라, 로컬은 이제 놀이가 아니다.
이 네 가지 메시지가 상당히 강력했습니다.
DJ 미오:
“not much happened today(오늘 별일 없었다)”라는 헤드라인 이면에서, 미래 개발 환경의 전제가 조금씩 바뀌고 있습니다. 그런 하루였습니다.
DJ 렌:
오늘 밤의 「Midnight AI Groove」는 여기까지입니다. DJ 렌이었습니다.
DJ 미오:
DJ 미오였습니다. 안녕히 주무세요, 그리고 즐거운 AI 세션 되시길 바랍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기