Otaku: 창작 글쓰기를 위한 LLM 프론트엔드

이런 종류의 제품이 이 서브레딧에 정확히 적합하지 않을 수도 있다는 것을 이해하지만, 애초에 로컬 엔진을 위한 LLM 프론트엔드이며 설정에서 '로어 추출(lore extraction)' 기능을 비활성화하면 범용적인 LLM 채팅에도 사용될 수 있기 때문에 여전히 주목할 만하다고 생각합니다. Otaku는 세 가지 핵심 아이디에 중점을 두고 구축되었습니다: 이야기가 진행됨에 따라 글쓰기 품질을 유지하는 것; 중요한 세부 사항을 잃지 않으면서도, 긴 이야기의 경우에도 컨텍스트를 작게 유지하는 것; 브라우저와 터미널에서 고품질 인터페이스를 제공하는 것입니다. 두 가지 인터페이스가 있습니다: 웹 UI(사용자 정의 가능) — 상호작용 데모 참고; 터미널 UI — 자체 상호작용 데모 참고. 웹 UI와 터미널 모두 동일한 기능을 공유하지만, 현재로서는 한 가지 예외가 있습니다. 바로 캐릭터 라이브러리는 웹 인터페이스에만 있고 나중에 터미널에도 추가될 예정입니다. 두 인터페이스의 차이점은 터미널에서는 슬래시 명령어(/)를 사용하여 함수를 실행하는 반면(참고는 /help에서 확인 가능), 웹 UI에서는 메뉴에서 작업을 수행할 수 있다는 것입니다. 얼마 전 여기에 이 제품에 대해 게시한 적이 있는데 긍정적인 피드백을 받았습니다.

그 이후로 새로운 기능들이 추가되었습니다: 양방향으로 작동하는 캐릭터 라이브러리(characters library): 라이브러리에 카드를 추가하고 그것들로 이야기를 시작할 수도 있고, 아니면 처음부터 이야기를 시작한 후 이야기에서 자동으로 추출된 캐릭터를 이용해 라이브러리에 카드를 만들거나 기존 카드에 연결할 수 있습니다; NovelAI와 유사한 스토리 모드: 프롬프트 상자가 아닌 대본(transcript)에 직접 글을 쓰고 Enter 키를 누르면 모델이 이어서 작성합니다; 사진 첨부 기능: 첨부된 사진은 컨텍스트에 유지되어 나중에 이야기에서 참고할 수 있습니다; 웹 검색 도구(web search tool): 모델이 인터넷에서 사실 정보를 검색할 수 있도록 합니다; 질문 도구(questions tool): 모델이 이야기가 어떻게 계속될지 사용자에게 질문할 수 있도록 합니다; ST의 작가 노트(Author's Note)와 같은 주입 기능(injections); 컨텍스트 크기 사용자 지정 제한(custom cap on context size): 이야기가 이 제한을 초과하면 중간 부분이 요약본으로 대체됩니다. 웹 인터페이스는 이제: 모바일에 최적화되었으며; HTTPS 및 비밀번호 보호를 지원하고; 여러 새로운 레이아웃을 갖추고 있습니다. Otaku 설치는 무료이며 오픈 소스입니다. macOS, Linux, Windows에서 작동합니다. uv — uv tool install otaku 명령으로 설치하거나 다른 옵션은 GitHub README를 참조하세요. 레포지토리(Repo): https://github.com/enclavum/otaku 시작하기: 시작하려면 터미널용 otaku 또는 웹 UI용 otaku web 중 하나를 실행합니다. 웹 UI의 기본 URL은 http://localhost:9600입니다. 첫 시작 시에는 기능과 사용 방식에 대한 아이디어를 얻을 수 있도록 두 개의 샘플 채팅(

Roleplay Otaku는 주로 창작 글쓰기와 역할극(roleplay)을 위해 개발되었으며, SillyTavern 등과 같은 대안입니다. 컨텍스트 구축 메커니즘 자체에 대한 설명은 엔지니어링 문서에 나와 있으며, 이 역시 일부 사람들에게 흥미로울 수 있습니다. 피드백 요청 Otaku는 개인적인 사이드 프로젝트이며, 제품과 추가할 기능에 대해 커뮤니티의 피드백을 받고 싶습니다. 제출자: /u/Fickle_Tradition4491 [링크] [댓글]