Clipboard Conqueror 소개

Clipboard Conqueror는 인공지능(AI)의 강력한 기능을 손끝으로 가져다주는 강력한 도구입니다. 개발자, 작가, 학생 또는 단순히 탐험하는 것을 좋아하는 사람 등 누구에게나 Clipboard Conqueror가 도움을 줄 수 있습니다.

설치 방법, 모델 선택, 기본 사용법, 북마클릿(Bookmarklets), 프롬프트 참고 자료, 프롬프트 형식 지정, API 전환, 추론 연결(Chaining Inference), setup.js

Clipboard Conqueror는 개인용 범용 코파일럿(copilot) 역할을 하는 복사 붙여넣기 대규모 언어 모델(LLM) 인터페이스입니다. 어디서든 작동합니다. 로그인하거나 필수 키가 필요하지 않습니다. CC를 사용하면 최첨단 인공지능 모델을 활용하여 생산성과 창의성을 높일 수 있습니다. 거의 모든 것이 설정 가능합니다.

Clipboard Conqueror를 사용하면 단순히 세 개의 파이프 기호("`|||"")와 질문 또는 명령어를 복사하기만 하면, 그 응답이 클립보드에 생성되어 어떤 텍스트 필드에도 바로 붙여넣을 수 있습니다.

Clipboard Conqueror는 다음 환경에서 별도의 설정 없이 작동합니다:

• KoboldCPP,
• Text Generation WebUI,
• Ollama,
• LMStudio
  *클로즈드 소스

이러한 로컬 추론 서버(local inference servers)들은 일반적으로 안전하고 신뢰할 수 있다고 간주되며, 단순히 "|||ollama|" 또는 "|||tgw|"와 같이 호출할 수 있습니다. 인터넷 연결이나 네트워크로 전송해야 하는 민감한 데이터가 필요하지 않습니다. Clipboard Conqueror는 매우 설정이 용이하여 어떤 추론 서버와도 호환될 것입니다.

CC는 다음을 통해 온라인으로 작동합니다:
적절한 엔드포인트의 setup.js 파일에 키를 입력하세요.

LLM 프롬프트의 모든 부분을 제어하세요: 현재 작업 공간을 벗어나지 않고도 AI의 모든 측면을 관리하고 사용자 정의할 수 있습니다. - 프롬프트 신속 프로토타이핑: 프로덕션 환경에 배포하기 위해 프롬프트를 빠르고 정확하게 테스트하고 개선할 수 있습니다. - 로컬 모델 실행: 데이터를 외부로 전송하거나 메트릭을 보고하지 않는 로컬 실행 모델로 데이터의 보안을 확보하세요. - 다중 추론 엔드포인트 지원: 선호하는 여러 추론 엔진과 유연하게 연동할 수 있습니다. - 노코드 다단계 추론 프레임워크 (No-code Multi-hop Inference Framework) 우수한 응답을 위한 강력한 추론 체인(chain-of-inference) 프롬프트를 준비하거나, 다단계 에이전트 프레임워크에 사용할 워크플로우를 프로토타입할 수 있습니다. - 데스크톱 플랫폼: Clipboard Conqueror는 Windows, macOS, Linux를 포함한 여러 데스크톱 플랫폼에서 원활하게 작동하도록 설계되었습니다. 안정성과 호환성을 위해 테스트가 완료되었습니다. - OpenAI 호환성: Clipboard Conqueror를 사용하기 위해 로컬 추론 엔진이 필수는 아니며, ChatGPT API 및 기타 인터넷 기반 추론 소스와도 연동됩니다. - CC는 미리 정의되거나 특정 목적에 맞춘 어시스턴트의 전체 도구 상자를 제공하여 바로 사용할 수 있습니다. - 필요할 때 시스템 프롬프트를 저장하여 초안 작성, 정의, 번역, 사고(think), 검토, 또는 농담을 할 수 있습니다. - Clipboard Conqueror 설치하기 - 모델 선택하기 - 기본 사용법 - 북마클릿 (Bookmarklets) - 프롬프트 참고 자료 - 프롬프트 형식 지정 - API 전환 - 추론 체인 - Setup.js - Clipboard Conqueror는 백그라운드에서 어떠한 메트릭도 수집하거나 데이터를 전송하지 않습니다. 로컬 LLM과 함께 사용할 경우, 데이터는 로컬 기기를 벗어나지 않습니다. 온라인 API와 함께 사용하는 경우에는 선택한 호스팅 업체의 개인정보 보호정책을 참조해 주십시오. - 이 VSCode 확장 프로그램은 코드 프롬프트를 구축하고 배열하는 데 탁월하며 CC와 원활하게 작동합니다. 프롬프트 타워 상단에 호출(invocation)만 추가하고 'Copy Prompt'를 클릭하면 됩니다. - 웹 브라우징 중 필요할 때 웹을 변형하세요. Quick Start Jam, 추천: Quick demo: Clipboard Conqueror를 사용하여 콘텐츠를 변경하는 방법 및 설치하기:**}{

• *참고: 이 영상에서 Context Shift를 이용한 컨텍스트 누수(context leaking)에 대해 언급했는데, 그것은 제 실수였습니다. 잠시 동안 |||re|가 예상치 못하게 지속되는 버그가 있었습니다.

기부해 주시면 정말 감사하겠습니다. 그리고 금요일에는 프롬프트 엔지니어링 상담도 가능합니다. 제가 어떤 식으로든 도움을 드릴 수 있다면 이메일을 보내주세요.

또는 코인으로:

• BTC: bc1qqpfndachfsdgcc4xxtnc5pnk8y58zjzaxavu27
• DOGE: D7JQNfq2ybDSorYjP7xS2U4hs8PD2UUroY

만약 CC가 정말 성공적으로 진행되어 제 재정적 필요를 충족시킨다면, 남는 자금으로 누구나 안전하고 투명한 조건에서 LLM에 무료로 접근할 수 있도록 저만의 전용 클러스터를 운영할 것입니다.

버그 보고, 기능 요청 또는 기타 문의 사항은 [email protected]으로 연락하거나 GitHub에 이슈를 열어주세요.

CC에 적절한 GUI를 추가하는 좋은 아이디어가 있다면 포크(fork)해서 어떻게 구현했는지 보여주세요. 무거운 웹 프레임워크는 피하고 싶습니다.

KoboldAi, KoboldCPP, Meta, ClosedAi의 제작자들과 이 모든 것을 가능하게 만든 커뮤니티에 특별히 감사드립니다.

모든 LLM은 조금씩 다릅니다. 각 모델과 최상의 결과를 얻기 위해 어떻게 대화해야 하는지 익숙해지는 데 시간이 걸립니다.

LLM은 강력한 도구이지만, 그것들이 어떻게 작동하는지 이해하는 것이 중요합니다. 입력 텍스트는 벡터화(vectorized)되어 행렬 곱셈(matrix multiplications)을 거치고 크고 복잡한 벡터가 구축됩니다. 그런 다음 각 단어가 차례로 하나씩 선택될 때마다 이 벡터에 추가되며, 더 나은 발화 느낌을 주기 위해 약간의 무작위성(randomity)이 적용되고, 다음 확률적 토큰(probable token)이 정지 토큰(stop token)이 되거나 최대 길이가 초과될 때까지 진행됩니다.

LLM에서 모든 단어는 해당 토큰이 다른 단어, 개념 또는 구문 구조와 어떻게 관련되는지를 나타내는 숫자들의 집합체입니다. 단어를 숫자로 변환함으로써, 우리는 수학을 통해 그것들을 다루고 다음에 어떤 숫자들이 적절할지 판단할 수 있습니다.

실제로 추론하거나 생각하지 않습니다. 대신 확률과 무작위성을 사용하여 패턴을 증폭하고 추측합니다. 각 다음 단어는 매우 정확하고 문학적인 복잡성으로 선택되어, 기능적으로는 마치 생각이 있는 것처럼 시뮬레이션합니다. 중요한 참고 사항: LLM은 가능한 토큰 목록과 그 확률을 반환하며, LLM이 계산을 마친 후 사용자 설정 규칙에 따라 반환된 세트에서 한 단어가 선택됩니다.

LLM 모델 자체가 선택을 하는 것이 아니라, 샘플링(sampling)은 이 '마법'이 일어난 후에 발생합니다. 그리고 기계는 선택할 다음 토큰들을 요청받게 되며, 여기서 모든 토큰은 단어로 잘려 나갑니다.

이상하게 들리지만, LLM에는 상태(state)가 없습니다. 매번 단어를 처리하는 데이터 계산일 뿐이며, 실제적인 고려 과정이 없습니다.

2024년에 성공하기 위해 이들의 한계 내에서 효과적으로 사용하세요.

적절한 데이터를 찾아 텍스트를 LLM에 붙여넣으면 그 데이터가 활용될 수 있지만, 어떤 LLM도 무조건 신뢰해서는 안 됩니다. 단지 첫 번째 수단으로서, 바로 여기 Clipboard Conqueror 위에서 말입니다.

이 프로젝트는 MIT 라이선스(MIT License) 하에 라이선스가 부여되었습니다. 자세한 내용은 LICENSE 파일을 참조하십시오.

콘텐츠를 생성할 때 Clipboard Conqueror를 책임감 있게 사용하고 거주 국가의 저작권 및 법률을 존중해 주십시오. 이 도구의 오용은 의도치 않은 결과와 사생활 또는 지적 재산권 침해로 이어질 수 있습니다. 저는 어떤 시스템에서 이 도구를 통해 전달되는 데이터에 대해 어떠한 책임도 지지 않습니다.

설치, 모델 선택(Choosing a Model), 기본 사용법(Basic Use), 북마클릿(Bookmarklets), 프롬프트 참고 자료(Prompt Reference), 프롬프트 형식 지정(Prompt Formatting), API 전환(API Switching), 추론 연결(Chaining Inference), Setup.js

저는 이 애플리케이션과 적어도 하나의 호환 백엔드가 인터넷 연결 없이도 작동할 것임을 엄숙히 약속합니다. 이 애플리케이션의 디자인 영감 중 하나는 LLM 모델을 가능한 한 많은 컴퓨터에 전파하는 것입니다. 저는 미래의 고고학자들이 발견하여 문화, 과학, 데이터의 타임캡슐로 삼을 수 있는 온전한 시스템이 최소한 하나 회복되기를 바랍니다. 우리도 심우주로 지적인 상자를 보내야 합니다. 우리의 지식과 후대는 낭비되어서는 안 됩니다.