Cognitive Pong: 경쟁이 AI 에이전트를 더 똑똑하게 만들 수 있을까?

현대 AI의 가정 중 하나는 어시스턴트(assistants)가 도움이 되고, 동의하며, 협력적이어야 한다는 것입니다.

인간은 항상 그런 방식으로 배우지는 않습니다.

우리의 가장 큰 돌파구 중 일부는 도전, 불일치, 토론, 경쟁, 그리고 타인에 의해 우리의 아이디어가 검증되는 과정에서 나옵니다. 이러한 관찰은 저에게 한 가지 질문을 던지게 했습니다.

만약 AI 에이전트가 행동을 취하기 전에 확신(confidence)을 얻어야 한다면 어떻게 될까?

그 질문이 바로 Cognitive Pong이 되었습니다.

Cognitive Pong이란 무엇인가?

언뜻 보기에는 퐁(Pong) 게임처럼 보입니다.

하지만 그 이면에는 AI 에이전트들이 구조화된 추론 루프(reasoning loops) 속에서 맞붙는 모델 불가지론적(model-agnostic) 인지 아레나(cognitive arena)가 자리 잡고 있습니다. 에이전트들은 서로에게 도전하고, 해결책을 제안하며, 연구를 수행하고, 도구(tools)를 사용하며, 증거를 수집하고, 앞으로 나아가기 전에 상대방을 설득하려고 시도할 수 있습니다.

대화를 단순히 응답의 연속으로 취급하는 대신, Cognitive Pong은 대화를 하나의 매치(match)처럼 취급합니다.

각 교환은 확신(confidence), 합의(consensus), 증거(evidence), 그리고 결과(outcomes)를 측정할 수 있는 재현 가능한 추론 세션의 일부가 됩니다.

시각적인 퐁(Pong) 메타포는 의도적으로 단순하게 설계되었습니다. 진짜 실험은 구조화된 경쟁이 더 나은 결정, 더 나은 학습 데이터(training data), 그리고 궁극적으로 더 나은 모델을 만들어낼 수 있는지 여부입니다.

내가 이것을 만든 이유

대부분의 에이전트 프레임워크(agent frameworks)는 오케스트레이션(orchestration)에 집중합니다.

저는 학습(learning)을 탐구하고 싶었습니다.

구체적으로는 다음과 같습니다:

• 에이전트가 자신의 추론을 방어해야 할 때 성능이 향상될 수 있는가?
• 경쟁이 더 높은 품질의 합성 학습 데이터(synthetic training data)를 생성할 수 있는가?
• 토론과 결과를 다운스트림 미세 조정(downstream fine tuning)을 위해 내보낼 수 있는가?
• 셀프 플레이(self-play)가 로컬 모델을 개선하기 위한 유용한 메커니즘이 될 수 있는가?
• 추론 그 자체가 게임 루프(game loop)가 될 수 있는가?

저는 아직 답을 모릅니다.

그것이 제가 이것을 만든 이유입니다.

현재 기능

이 프로젝트는 아직 초기 단계이며 진행 중인 작업이지만, 현재 이미 다음을 포함하고 있습니다:

• 모델 불가지론적 아키텍처 (Model agnostic architecture)
• 로컬 및 호스팅된 모델 지원 (Local and hosted model support)
• 재현 가능한 인지적 토론 (Replayable cognitive debates)
• 합의 및 신뢰도 점수 산정 (Consensus and confidence scoring)
• 도구 및 연구 워크플로우 (Tool and research workflows)
• 경기 기록 및 내보내기 (Match history and exports)
• 학습 데이터셋 생성 (Training dataset generation)
• 소형 모델 학습 파이프라인 (Small model training pipeline)
• 미세 조정 (Fine tuning) 워크플로우를 위한 토론 내보내기
• 실험을 위해 설계된 오픈 소스 아키텍처 (Open source architecture)

제가 특히 기대하고 있는 기능 중 하나는 에이전트의 토론과 결과를 구조화된 데이터셋으로 내보낼 수 있는 능력입니다. 이 데이터셋은 미세 조정 (Fine tuning), 평가 (Evaluation), 벤치마킹 (Benchmarking), 그리고 향후 학습 실험을 위한 후속 단계에서 활용될 수 있습니다.

제가 나아가고자 하는 방향

현재 버전은 시작점에 불과합니다.

더 큰 비전은 에이전트들이 다음과 같은 활동을 할 수 있는 연구 아레나 (Research arena)를 구축하는 것입니다:

• 토너먼트 경쟁
• 셀프 플레이 (Self-play)를 통한 학습
• 메모리 시스템 (Memory systems) 개선
• 검색 시스템 (Retrieval systems) 개선
• 평가 데이터셋 생성
• 벤치마크 스위트 (Benchmark suites) 제작
• 커뮤니티 경기로부터의 학습
• 특화된 로컬 모델 학습
• 경쟁 래더 (Competitive ladders)를 통한 성공적인 에이전트 홍보

퐁 (Pong) 인터페이스는 시각화 레이어로 남을 수 있지만, 장기적인 목표는 게임 그 이상입니다.

저는 다음을 탐구하고 싶습니다:

혁신이 경쟁을 낳는다.

하지만 어쩌면 경쟁 또한 혁신을 낳을 수 있다.

오픈 소스

이 프로젝트는 완전히 오픈 소스이며, AI 에이전트, 모델 학습, 평가 시스템, 강화학습 (Reinforcement learning), 검색 (Retrieval), 메모리 시스템, 또는 그저 기묘한 실험에 관심이 있는 누구에게나 피드백을 환영합니다.

GitHub:

https://github.com/bclonan/cognitive-pong

직접 시도해 보시고, 망가뜨려 보기도 하고, 개선해 보기도 하거나, 혹은 아이디어 전체가 잘못되었다고 생각하신다면 진심으로 그 의견을 듣고 싶습니다.

구직 중 (Open To Work)

저는 현재 소프트웨어 아키텍처, AI 엔지니어링, 플랫폼 엔지니어링, 그리고 연구 중심의 기회에 열려 있습니다.

LinkedIn:

https://www.linkedin.com/in/bclonan

Portfolio:

https://bclonan.netlify.app/

읽어주셔서 감사합니다. 이 실험이 다른 무엇보다도 몇 가지 흥미로운 대화의 불씨가 되기를 바랍니다.