ell

Bash로 작성된 LLM (Large Language Models)용 명령줄 인터페이스 (CLI)입니다.

특징 (Features)

ell의 기본 사용법 (webm, 1,6MiB)

터미널에서 LLM에게 질문하기
파이프 (Pipe) 친화적
터미널의 컨텍스트 (Context)를 LLM에 전달하고 질문하기
터미널에서 LLM과 채팅하기
템플릿을 통한 함수 호출 (Function calling) 및 기타 기능 지원
민감한 정보 삭제 (Redaction) (#14)

요구 사항 (Requirements)

ell을 사용하려면 다음 항목이 필요합니다:

bash-4.1 이상 및 coreutils / OS X 유틸리티
jq (JSON 파싱용)
curl (HTTPS 요청 전송용)
perl (레코드 모드를 사용하지 않는다면 필수 아님. PCRE용. POSIX bash는 전방 탐색(look-ahead) 및 후방 탐색(look-behind) 정규 표현식을 지원하지 않음)
util-linux (레코드 모드를 사용하지 않는다면 필수 아님. 터미널 입출력을 기록하기 위한 script 명령용)

설치 (Install)

git clone --depth 1 https://github.com/simonmysun/ell.git ~/.ellrc.d
echo 'export PATH="${HOME}/.ellrc.d:${PATH}"' >> ~/.bashrc

또는

git clone --depth 1 git@github.com:simonmysun/ell.git ~/.ellrc.d
echo 'export PATH="${HOME}/.ellrc.d:${PATH}"' >> ~/.bashrc

이렇게 하면 저장소가 홈 디렉토리의 .ellrc.d로 클론되며 PATH에 추가됩니다.

설정 (Configuration)

Configuration을 참조하세요.

다음은 Google의 gemini-1.5-flash를 사용하기 위한 설정 예시입니다. ~/.ellrc 파일에 다음 변수들을 설정해야 합니다:

ELL_API_STYLE=gemini
ELL_LLM_MODEL=gemini-1.5-flash
ELL_TEMPLATE=default-gemini
...

다음은 OpenAI의 gpt-4o-mini를 사용하기 위한 설정 예시입니다.

ELL_API_STYLE=openai
ELL_LLM_MODEL=gpt-4o-mini
ELL_TEMPLATE=default-openai
...

사용 예시 (Usage examples)

설정이 올바르게 되었는지 확인하세요.

질문하기:

ell "What is the capital of France?"

모델을 지정하고 파일을 입력으로 사용하기:

ell -m gpt-4o -f user_prompt.txt

표준 입력 (stdin)으로부터 읽는 것도 지원됩니다:

cat somecode.py | ell -f -

템플릿에 추가하는 대신 프롬프트의 다른 조각을 즉시 추가하고 싶다면 다음과 같이 사용하세요:

(cat somecode.py; echo "Explain this code") | ell -f -

터미널의 입력과 출력을 기록하여 컨텍스트 (context)로 사용합니다:

ell -r
# 무작위 작업 수행
ell What does the error code mean?
...

대화형 모드 (interactive mode)로 실행합니다:

ell -i

대화형 모드에서는 컨텍스트와 함께 채팅할 수 있도록 기록 모드 (record mode)가 자동으로 활성화됩니다.

템플릿을 지정하고 기록 모드와 대화형 모드를 동시에 시작합니다:

ell -r -i -t ctf-gemini

또는

ell -r -i -t ctf-openai

사용 중인 API에 따라 달라집니다.

Capture the flag 게임 적용 예시 (webm, 2.6MiB)

템플릿 작성 (Writing Templates)

Templates를 참조하세요.

ell에서 LLM 제공업체의 플러그인 지원을 사용하는 것은 템플릿을 통해 이루어진다는 점에 유의하세요.

스타일링 (Styling)

Styling을 참조하세요.

플러그인 (Plugins)

Plugins를 참조하세요.

여기서 "플러그인 (Plugin)"이라는 용어는 ell에 의해 호출될 수 있는 스크립트를 의미합니다. 이는 ell의 기능을 확장하는 데 사용될 수 있습니다. LLM 제공업체에서 지원하는 플러그인은 여기에 포함되지 않습니다. Templates를 참조해 주세요.

고려해야 할 위험 요소 (Risks to consider)

Risks Consideration을 참조하세요.

Q&A

Q: 왜 이름이 "ell"인가요?
A: "ell"은 shell과 LLM의 조합입니다. 이는 LLM 백엔드 (backends)를 사용하기 위한 쉘 스크립트 (shell script)입니다. 한때 "shellm"이 고려되었으나, "she llm"으로 오해받을 수 있어 제외되었습니다. "ell"은 더 짧고, 타이핑하기 쉬우며, 기억하기 쉽습니다. 또한 현재 활성화된 소프트웨어와 충돌하지 않습니다. 쉘 스크립트의 "shell"이라는 이름은 운영 체제의 외곽층으로서 사용자에게 노출되는 층이기 때문에 붙여진 이름입니다. 이것이 CLI나 GUI임을 나타내는 것은 아닙니다. 아쉽게도 발음이 같은 "L"로 줄일 수는 없는데, 그럴 경우 너무 많은 것들과 충돌하기 때문입니다.
Q: 왜 Bash로 작성되었나요?
A: Bash는 Unix 계열 시스템에서 가장 흔히 사용되는 셸(Shell)이며, 이를 위해 더 복잡한 언어를 사용할 필요가 없기 때문입니다.
Q: ell과 다른 유사한 프로젝트들의 차이점은 무엇인가요?
A: ell은 거의 순수하게 Bash로 작성되어 매우 가볍고 설치가 쉽습니다. 또한 확장 및 수정이 매우 용이합니다. 파이프(Pipe) 친화적이어서, 다른 도구들과 조합하여 사용하도록 설계되었습니다.

유사한 프로젝트

https://github.com/kardolus/chatgpt-cli - Go로 작성된 ChatGPT용 CLI.
https://github.com/kharvd/gpt-cli - Python으로 작성된 다양한 LLM 백엔드용 CLI.
https://github.com/JohannLai/gptcli - TypeScript로 작성된 OpenAI LLM용 CLI.
https://github.com/x-cmd/x-cmd - LLM API용 CLI를 포함한 다양한 도구들의 방대한 모음. 이 프로젝트는 POSIX bash와 awk로 작성되었습니다.
https://github.com/llimllib/gpt-bash-cli - 요청과 응답을 데이터베이스에 저장하는 OpenAI API용 CLI. 또한 API 키를 저장하기 위해 시스템 키링(Keyring)을 사용하며, 이는 훨씬 더 안전합니다. 이 프로젝트 역시 bash로 작성되었습니다.
https://github.com/charmbracelet/mods - Go로 작성된 LLM 대화용 CLI 도구. 대화 관리 측면에서 풍부한 기능을 갖추고 있습니다.
https://github.com/hiquest/nicechat - Node.js로 작성된 OpenAI 모델용 CLI 채팅 인터페이스.
https://github.com/closedloop-technologies/autocomplete-sh - 자동 완성(Completion)을 사용하여 사용자와 상호작용하는 LLM용 CLI. 더 나은 제안을 제공하기 위해 여러 히스토리 작업을 수행하며, 이 또한 bash로 작성되었습니다.
https://github.com/plandex-ai/plandex - AI 통합 워크플로를 개발하기 위한 Go 기반 CLI 도구.
https://github.com/simonw/llm - LLM의 심층적인 조작을 위한 Python 기반 CLI 도구.
https://github.com/sigoden/aichat - 다양한 LLM 제공업체와 대화하는 Rust 기반 CLI 도구.
https://github.com/npiv/chatblade - ChatGPT를 위한 Python 기반 CLI 맥가이버 칼(Swiss Army Knife).

기여하기

기여는 언제나 환영합니다! 아이디어, 제안 사항 또는 버그 보고가 있다면 이슈(issue)를 생성하거나 풀 리퀘스트(pull request)를 제출해 주세요.

라이선스 (License)

이 프로젝트는 MIT 라이선스(MIT License)를 따릅니다. 자세한 내용은 LICENSE 파일을 참조하세요.

Insights

Show HN: Ell – Bash로 작성된 LLM용 명령줄 인터페이스 (CLI)

요약

핵심 포인트

ell