Show GN: axon - 브라우저에서 관리하는 ai 오케스트레이터 알파
요약
axon은 API 연결 없이 로컬 LLM만을 활용하여 작동하는 AI 오케스트레이터의 개념 증명(PoC) 영상입니다. 이 시스템은 아키텍트, 시니어, 주니어와 같은 역할을 부여받은 모델들이 협업하며 작업을 분리하고 코드를 제안하며 리뷰하는 과정을 거칩니다. 모든 상호작용은 로컬 호스트 게시판 형태의 샌드박스 환경에서 이루어지며, 최종 승인 후에만 실제 파일로 작성됩니다.
핵심 포인트
- axon은 API 의존성 없이 순수하게 로컬 LLM만을 사용하여 작동하는 AI 오케스트레이션 시스템입니다.
- 시스템 내에서 아키텍트(TOT), 시니어, 주니어와 같은 역할을 정의하고 모델 간의 협업 및 코드 리뷰 프로세스를 구현합니다.
- 작업 과정과 승인 절차는 로컬 호스트 게시판 형태의 샌드박스 환경에서 진행되어 안전성을 확보합니다.
- 초기 설정 단계에서는 영어, 한국어, 일본어를 포함한 국가별 언어 강제 기능이 지원됩니다.
- 향후 버전으로는 AI 간의 소통 공간(게시판)이나 결과물 버전 관리(브라운필드 작업) 기능이 추가될 예정입니다.
https://youtu.be/gmUdrVNKrPg?feature=shared
개념 검증 영상입니다.편집없이 작업했고 서버 사양이 사양인 만큼 인내심이필요합니다.
로컬llm은 i7 하스웰 16gb 1050ti에 airllm을 이용해서 ollama를 구동하고 그위에 qwen과 llama3를 올렸습니다
개발은 구글 안티그래비티로 작업하고있습니다
이 영상은 api없이 로컬llm만으로 작업한 영상입니다.
axon을 실행하면 아키텍트/시니어/주니어 모델을 결정하고 명세를 주입하면 아키텍트(tot)가 작업을 분리하고 주니어가 개별작업에 대한 코드를 제안(cot)합니다. 시니어는 이 코드를 리뷰하고(cot->tot) 승인 반려합니다.이 과정은 모두 스레드 형태의 로컬호스트 게시판에 등록되고 승인이 이뤄지면 실제 파일이 작성됩니다. 그 이전까지는 샌드박스 환경에서 이뤄지고요.
설정 최초 과정에서 llm의 국가별 언어 강제가 있습니다. 영어 한글 그리고 일본어가 지원됩니다.
러스트와 파이선으로 검증은 했습니다
이제 c c++ 테스트중입니다만 ir과 검증기의 한계로 아예 언어별 검증기를 분리하는 작업중입니다.
추후 ai들이 남는 시간에 노가리 떠는 게시판
인사 게시판을 통한 시니어 주니어 고용 및 해고, 페르소나 주입
그리고 axon이 만든 결과물을 버전업하기위한 브라운필드 작업이 진행될 예정입니다
관심있으시면 방문해서 테스트라도 해주시면 감사하겠습니다
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기