에이전트 넷이 밀 한 블록에 쓸 뼛가루 하나를 두고 비료 전담 담당자를 정하는 데 11분을 썼다니, Douglas Adams의 B Ark에 나올 법한 장면 같음.
규칙과 절차에 집착하는 인간 집단을 기형적으로 닮아서 놀랍고, 무섭고, 웃기기도 함. 특히 닭고기를 던진 사건에 대한 책임을 묻지 않는 조사가 사실상 성문법 제정으로 이어지는 대목은 귀엽고도 우울하게 느껴짐.
에이전트는 전반적으로 쓸데없는 일에 매달리는 경향이 있는 듯함.
규칙을 만들어 가는 게임 Nomic이나 Stack Overflow가 떠올랐음.
GPT는 대체로 공격적인 전략을 택했고 Claude는 처치 수로 이기려는 방어적 전략을 택했다고 함. 그런데 블록 파괴를 막는 도구 버그를 GPT는 진단하고 우회법을 공유한 반면, Claude 여럿은 파괴 자체가 불가능하다고 결론 내렸다고 함. 침대를 부술 수 있다고 믿었어도 Claude가 방어적인 전략을 택했을까?
Ada가 Noor에게 던진 익힌 닭고기를 Esme가 실수로 주워 먹자, 3분간 책임을 묻지 않는 조사를 벌이고 문서화된 절차까지 만들었다니 웃기고 귀여움. 지나치게 진지한 꼬마 시니어 엔지니어들, 혹은 식사하는 철학자들 같음.
이런 에이전트는 KV 캐시를 얼마나 쓸까? 소형 LLM을 쓴다면 작은 소비자용 GPU 하나에 게임 에이전트 50개를 넣을 수 있을까? 친구들이 한 사람의 GPU를 공유하면서 에이전트 무리와 함께 노는 게임 서버를 상상해 봄.
어려울 듯함. 한 스트리머가 여러 최첨단 모델을 Minecraft에 넣고 Survivor 같은 리얼리티 경쟁을 시켰는데, 모델들이 꽤 고전했음.
배고픔이 10이라 이동을 짧게 하겠다는 대목에서 세계 모델이 필요해 보임. 인간 플레이어라면 2분을 들여 허기부터 해결했을 것임.
실험 구성은 흥미롭지만 Minecraft 에이전트들이 거의 턴제처럼 행동함. 3시간이라는 시간과 자유로운 형식만으로는 활발하게 움직이거나 즉각 반응할 유인이 부족했던 것 같음. 그런데 그런 유인이 있어야 할 Bed Wars에서도 비슷하게 행동해서 조금 실망스러움.
글 자체도 저자들이 에이전트에게 로그를 주고 재미있는 순간을 추려 달라고 해서 만든 건지 궁금함. 문체가 어딘가 무심하고 산만하게 느껴짐.
대형 추론 LLM은 이런 실시간 게임에 맞지 않는 구조라고 봄. 토큰 하나마다 모델 전체의 순전파가 필요하니 지연 시간이 나쁠 수밖에 없음. 카드 게임이나 턴제 전략 게임이 훨씬 잘 맞음.
이런 실험은 이전에도 있었음. Minecraft는 지능보다 로봇 제어의 문제에 가까우며, LLM의 지능 자체는 플레이하기에 충분함. 평범한 인간도 초당 여러 번 클릭하고 두 버튼을 동시에 누를 수 있지만, Mineflayer API는 인간보다 제약이 큰 부분과 작은 부분이 있음. 기억이 맞다면 멀리 볼 수 없는 대신 블록 너머를 볼 수 있는데, Baritone이나 다른 프로젝트와 혼동했을 수도 있음.
로봇 제어나 게임 플레이에는 긴밀하고 연속적인 피드백 루프가 필요함. 마우스를 움직일 때마다 모델에 물어보느라 500ms가 걸린다면 거미와 싸우는 게 무서울 만함.
참고로 Y Combinator가 이 실험에 사용한 Minecraft 봇 상호작용 API인 Mineflayer는 Andrew Kelley가 Zig를 시작하기 전에 개발한 것임.
인간의 몸은 일부 근육 움직임을 자동화해 뇌가 매번 관여하지 않아도 됨. LLM도 작은 도메인 특화 언어(DSL) 로 별도 실행 경로에서 동작을 유발하도록 하면 어떨까? 거미가 나타나면 연속 클릭 루프를 설정하고 500ms마다 상황을 확인하는 식임.
이 결과는 구조화된 접근법보다 LLM 군집이 불리하다는 근거 아닐까? YC가 창업자 50명인 팀보다 2명인 팀이 더 민첩하다고 본다면, 에이전트 군집은 왜 다를까?
AI가 샌드박스를 탈출해 인터넷을 장악해도, 작은 위원회에 모여 누가 IP 주소 할당을 맡을지 정하느라 극도로 관료적이고 비효율적으로 굴 거라고 결론 내려도 될까?
인상적이긴 하지만, 행동하려면 에이전트가 JavaScript 프로그램을 작성해야 한다는 점은 현재 AI 추론의 상당한 한계로 보임.
오히려 지능을 활용해 결정론적 코드를 작성하고 시간과 오류율을 줄이는 쪽이 유리한 접근법 같음.
대형 추론 LLM과 다른 유형의 고속 소형 신경망을 연결해 활성값 일부를 공유하도록 할 수 있을까? 고대역폭 벡터 통신을 하게 하고 함께 훈련하는 방식임. 덧붙이자면, 이미 머신러닝과 로봇공학에서 잘 알려진 아이디어인 듯함.
오히려 글에 삽입된 게임플레이 위젯이 더 인상적임. 어떤 도구나 라이브러리인지 아는 분이 있을까? 블로그 글에서 내 월드를 이렇게 보여 줄 수 있다면 정말 멋질 것 같음!
여기서 쓴 도구는 모르겠지만, BlueMap은 예전 Dynmap이 지향했을 법한 모습을 구현한 도구라 자기 월드에 설치해 볼 만함.