언어 모델 REPL을 작성하는 데 Bash만 있으면 된다는 사실이 밝혀졌습니다 (jq 및 curl 포함)

로컬 모델을 만져보고 에이전트 (agents) 설정을 시도하며 자기 주도적 학습 연습을 하던 중, 저는 한 가지 문제에 깊이 빠지게 되었습니다. 즉, 가능한 한 의존성 (dependencies)을 제거하고 오직 명령줄 구성 요소 (command-line building blocks)만을 사용하여 커스텀 에이전트 REPL 루프를 어디까지 구축할 수 있는지 확인하는 것이었습니다.

결과적으로 파이프 (pipes), 텍스트 스트림 (text streams), 추가 전용 로그 (append only logs), 그리고 표준 명령줄 구성 요소들을 사용하면 상당히 먼 곳까지 갈 수 있다는 것이 밝혀졌습니다. 이는 고전적인 Unix 철학 (Unix philosophy)과 매우 잘 일치하는 개념들입니다. 이 에이전트는 몇 가지 작은 프로그램들로 구성된 래퍼 (wrapper)이며, 이를 통해 에이전트 루프의 다양한 단계를 조사, 필터링, 리다이렉션 및 감사할 수 있는 다양한 도구들을 유연하게 주입할 수 있습니다.

관심을 가질만한 몇 가지 기능은 다음과 같습니다:

최소한의 의존성: Python, NodeJS 등이 필요 없으며, 핵심 명령줄 구성 요소들은 대부분의 현대적인 Unix 유사 환경에서 널리 사용할 수 있습니다.
플러그 앤 플레이 (Plug-and-play) 백엔드: 에이전트-모델 경계가 단일 명령줄 도구로 범위가 지정되어 있어, 서로 다른 모델 제공자 간의 이식성을 허용합니다.
단순하고 투명한 상태: 에이전트 메모리/컨텍스트 (agent memory/context)는 추가 전용 히스토리 파일에 저장되어, 쉬운 조사, 수정, 되감기 등을 가능하게 합니다.

누군가 살펴보고 싶다면 코드를 여기에 올려두었습니다: https://github.com/cloudkj/llayer
흥미로우시길 바랍니다. 여러분의 생각이 궁금합니다!
submitted by /u/cloud_kj
[link] [comments]