OptChat에 대한 기대감: GPT 3 이후 최고의 워크플로우 업그레이드

저는 OptChat에 대해 얼마나 흥분했는지 아무리 강조해도 지나치지 않습니다. 이것은 GPT 3 이후 제 워크플로우에 가장 큰 업그레이드가 되었습니다. VIM을 배우는 것 다음으로 최고입니다.

제 과거 채팅 기록 전체를 여기에 내보냈는데, 삶이 정말 놀라워졌습니다. AI(그리고 저 자신)가 제가 가진 모든 정보에 접근할 수 있는 단일 통합 로그를 갖게 된 편리함은 말로 표현할 수 없습니다.

예전에는 여러 클로드 코드 세션과 심지어 다른 하네스에 걸쳐 캠페인들이 흩어져 있었습니다. 제 삶의 각 부분이 다른 곳에 있었고, Opus는 이것이 거대한 혼란이기 때문에 이러한 과거 기억을 탐색하는 데 어려움을 겪습니다. 이제 모든 것이 한곳에 있습니다. 제 삶의 어떤 사실이든 3~4번의 '줌 이동(zoom hops)'만 거르면 됩니다. 제가 작성했던 모든 프롬프트, 설계했던 모든 알고리즘도 몇 번의 이동 거리입니다. 마치 비록 그저 사소한 압축 트릭일 뿐이지만, 제 삶 자체가 모델 가중치에 새겨진 것 같습니다.

"λ-contraction에 대한 PR 상태가 어떻게 되었었지?"

(3번의 줌 이동 후...)

"2주 전이었어. 요거트 먹으러 갔다가 답장하는 걸 잊었잖아"

---

"순수하게 아핀한 정렬 알고리즘에 대해 상기시켜 줄래?"

(5번의 줌 이동 후...)

"네가 7개월 전에 작성했던 거야: <code>. 핵심은..."

---

"내 삶에서 주의가 필요한 상위 3가지 미결 주제를 찾아줘"

(여러 번의 줌 이동 후...)

"여기 있어: ..."

이것이 작동하는 방식 자체가 정말 환상적입니다.

또한, 매 턴마다 컨텍스트가 리셋되는 방식은 AI가 더 잘 수행하도록 분명히 만듭니다. 이는 컨텍스트 부패(context rot)를 완전히 제거하며, 제가 수동으로 /compact할 필요가 전혀 없습니다. 그럴 필요가 없어요.

그리고 놀랍게도 캐시 효율성도 좋습니다. 비용이 가장 많이 드는 인-턴 메시지들은 캐싱되고, 심지어 크로스-턴(cross-turn)에서도 바이너리 압축 방식 덕분에 대부분의 뷰가 유지됩니다. 저는 이것을 가능하게 하기 위해 OptMem에 몇 가지 사소한 버그를 수정해야 했지만, 이제는 그냥 작동합니다. 제 비용이 떨어졌습니다.

또한 제가 루트에서부터 직접 메모리 트리(memory tree)를 탐색하고 제 삶의 어떤 것이든 찾아낼 수 있다는 사실도 좋습니다. 정말 자연스럽습니다. 모든 것이 거기에 있습니다.

또한, 이제 에이전트가 어떻게 행동해야 하는지에 대한 방식 자체가 OptChat 로그에 '고정'되기 때문에, 제가 AGENTS.md의 90%를 제거할 수 있다는 것을 깨달았습니다. 만약 제가 무언가를 바꿀 마음이 들면, 메시지를 보내기만 하면 되고 최신 결정 사항이 고정됩니다. 에이전트가 무언가를 잊어버리면, 그냥 지적하기만 하면 그 설명했던 장소를 찾아냅니다. 다시 설명할 필요도 없고, AGENTS.md를 수동으로 관리할 필요도 없습니다. 그냥... 작동합니다.

게다가 이제는 제 Mini에서 실행되기 때문에 맥북을 닫아도 중단되지 않으며, 제 개인 데이터에 접근할 수 없기 때문에, 저는 마침내 Computer Use 기능을 이용해 음식 구매, 항공편 예약, gov[.br] 같은 곳에 로그인하는 등의 일을 할 수 있게 되었습니다. (세상에 감사합니다!!!!!!!!!!). 이것이 Hermes 등을 사용하는 누구에게나 새로운 소식은 아니라는 것을 알지만, 제가 이렇게 할 수 있는 것은 처음이며 이미 제 삶을 더 나은 방향으로 변화시키고 있습니다.

이렇게 평범한 것에 대해 너무 흥분해서 트윗을 올린 점 죄송합니다. 간단한 아이디어가 얼마나 엄청나게 변혁적일 수 있는지 정말 미쳤습니다. 컨텍스트 로트(Context rot)가 모든 악의 근원이었는데, 이제 그것이 사라졌습니다. 저는 자유로움을 느낍니다.

이것을 게시하고 싶지만, 제 워크플로우와 연결되어 있고 인터페이스가 믿을 수 없을 정도로 못생기고 해킹처럼 보입니다. 사실, 제가 에이전트에게 설정의 모든 세부 사항을 설명하는 프롬프트를 작성해 달라고 요청할 생각입니다. 여러분들이 재현할 수 있도록요! 아래에 게시하겠습니다.

본질적으로 그냥 작동하는 무한 컨텍스트인 셈입니다.

여러분들도 정말 시도해보시길 강력히 추천합니다!!!

이것이 여러분의 삶을 바꿀 수도 있습니다.