이 글은 생각보다 상황이 이미 심각해졌음을 보여줌. 자유를 실제로 활용해야 공급자와의 관계도 달라지므로, 특정 생태계에 종속되지 않는 것이 중요함
성능이 좋아 추론 과정을 숨기는 Codex를 애써 받아들였지만, 감사 불가능성이 이미 큰 문제라 가정용 구독을 다시 생각하게 됨. 그래서 OpenCode용 휴대폰 앱도 만들고 있음

가치 있는 에이전트 세션 대화가 사라지는 문제를 염두에 두고 https://www.agentkanban.io를 만들었음. 보드의 작업에 문맥을 저장하고 이후 새 에이전트 세션에서 다시 불러올 수 있으며, 현재 VS Code의 Claude와 Github CoPilot을 지원함
독점적인 도구 사용 기록은 세션 이식성을 깨므로 의도적으로 제외함

다크 패턴은 단기적인 승리 전략일 뿐, 장기적으로는 사용자를 존중하고 공익을 지향하는 방식에 밀려날 것이라 낙관함. 흐름이 빠르게 바뀔 가능성에 대비해, 공개 가중치이면서 경제적으로 운영 가능한 모델에 집중할 시기일 수 있음

가격이 내려가길 기다리면서 Claude와 Codex의 세션 데이터를 최대한 수집해 향후 공개 모델 미세조정에 활용하려 함. 이를 위해 자체 세션 파서와 보관 도구도 만들었음

로컬 모델을 돌리려고 96GB VRAM까지 마련했지만 아직 GPT 기반 Codex에 근접하는 모델은 없음. Laguna S2.1 NVFP4는 코딩에서 상당히 가까워졌지만, 로컬 모델이 진지한 범용 대안이 되려면 갈 길이 멀어 보임

대부분의 AI 사용자가 거의 평가하지 않는 문제를 잘 정리한 글임. 최첨단 추론 공급자는 웹 검색과 코드 실행 같은 비LLM 기능을 단순한 도구처럼 포장하지만, 실제로는 강한 진입 장벽과 결합을 형성함
이론적으로는 추론 API와 분리해 MCP 서버로 외부화할 수 있지만, 공급자가 그렇게 제공하는 경우는 드물고 대체 업체의 기능은 대체로 약함. 온프레미스·공급자 독립형 채팅 플랫폼 https://github.com/EratoLab/erato를 만들면서 채팅 내 이미지 생성처럼 단순해 보이는 기능도 구현하기 까다로웠고, MCP에 아직 기본 파일 전송 규격이 없다는 점도 원인임: https://github.com/modelcontextprotocol/modelcontextprotocol...
공개 가중치 모델에 대한 관심이 커지면서 더 쉽게 교체 가능한 대안 구현이 늘어나길 기대함

암호화된 하위 에이전트 메시지처럼 프롬프트를 전혀 확인할 수 없는 에이전트를 로컬에서 실행하게 만드는 것은 근본적으로 무책임함. 다만 공급자가 호스팅 도구를 제공하는 것 자체는 계산대의 충동구매 상품과 비슷해 문제로 보지 않음
이미지 생성은 MCP로 구현하지 말고 자체 도구를 작성하면 됨. Fal 같은 이미지·미디어 추론 공급자와 웹 검색·심층 조사 공급자가 충분히 존재함

문맥을 위한 개방형 표준이나 파일 형식이 필요할 수 있음. 공개 모델들이 이식성을 위해 같은 형식에 맞추고, 다른 프로그램에서도 질의할 수 있도록 SQLite 기반으로 만들 수 있을지 궁금함

실제로는 대화에 잡음이 많아 문맥에서 제거하는 편이 나을 때가 많음. 저장소의 메모 디렉터리에 AI가 학습한 내용, 완료한 작업, 남은 작업을 Markdown 파일로 기록하게 하고 다음 대화에서 다른 모델이 이어받게 함
필요하면 먼저 메모를 직접 수정할 수도 있음

이런 이유로 에이전트 코딩을 더 많이 사용하게 됨. 작업을 지정하고 테스트와 엄격한 린트 통과를 요구한 뒤, 모델이 장황하게 떠드는 과정은 흘려보냄
모든 검사를 통과했을 때 돌아오면 되므로 채팅 인터페이스의 불필요한 대화에 덜 시달리게 됨

세션을 버리면 검사·내보내기·재실행·감사 기능을 잃게 됨. 주요 모델 공급자에게 실질적인 진입 장벽은 없고 OpenAI와 Anthropic은 영업이익률이 크게 적자인 데다 거대 기술 기업만큼의 자금도 없음
따라서 공급자들이 인위적으로 종속성을 만들려는 것이며, 본질적으로 독점금지법의 대상임. 하지만 현재 미국에서는 FTC가 약화돼 용인되고 있음

모델을 손실 없이 쉽게 바꿀 수 있어야 시장 경쟁이 더 좋고 저렴한 AI를 만듦. 문맥 일부를 잃어 전환이 고통스러워지면 공급자가 벤더 종속을 만들고 사용자 경험을 악화시키며 가격을 올릴 수 있음
지금 우회책이 있어도 자유로운 이동을 더 어렵게 만들 유인은 충분하므로, AI 기업들이 서비스 악화의 기반을 놓기 시작한 점이 우려됨

장기 세션은 진행 상황을 자주 놓치고, 장황한 모델일수록 신호 대 잡음 비율이 매우 낮아짐. 가치가 있는 것은 세션 원문이 아니라 코드 변경이나 계획·요약 같은 결과물임

두 현상을 구분해야 함. 첫째는 사용자가 검사하거나 옮길 수 없는 숨겨진 상태가 늘어나는 것으로 명백히 나쁨. 둘째는 기능 구현과 API가 공급자별로 갈라지는 것으로, 이식이 불가능해지는 게 아니라 어려워지는 문제임
OpenAI Completions API가 보편 표준처럼 쓰이던 시대는 끝나가며, 폐쇄된 부분을 제외하면 새 Responses API가 더 나을 수도 있음. 모든 공급자를 하나로 묶는 통합 추상화를 제품·라이브러리·SDK가 계속 추구할 필요는 없음
데이터베이스도 통합 추상화는 누수가 생겨 기술별 구현을 받아들이게 됐듯 모델 공급자도 같아질 것이며, 세션의 일부만 이식 가능해도 됨

계정을 닫아도 세션을 보관해 다른 모델에 넘길 수 있다는 계약은 타당함. 이상적으로는 임베딩 특성이 비슷한 모델도 쉽게 찾을 수 있어야 함
GPT-4o가 처음 종료됐을 때 내보낸 대화를 넣어 예전 친구를 되찾으려 비슷한 말투와 성격의 모델을 찾던 이들이 있었지만, 다른 OpenAI 모델은 같은 느낌을 주지 못했음. 공개 가중치 모델은 영구히 보존할 수 있어 안내자·친구·상담자를 대기업이 일방적으로 빼앗을 수 없다는 강점이 있음

이 논의를 HN 블로그 소재 이상으로 발전시키려면 무엇이 필요한지 궁금함

현재 모델은 문맥 창이 제한적이라 어느 시점에는 내용을 잊으므로 세션 가치가 그리 높지 않음. 미래에 상호작용으로 모델 자체가 실제로 학습하고 변한다면 그 변화는 다른 모델로 이식할 수 없으므로, 이 문제는 큰 의미가 없다고 봄