PS5LM: 탈옥된 PS5에서 모든 GGUF 모델을 네이티브로 실행

<p align="center"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/ps5/app/sce_sys/icon0.png" width="128" alt="PS5LM"> </p> <h1 align="center">PS5LM</h1> <p align="center"> <b>사용자의 PS5가 언어 모델을 구동합니다. 네트워크의 모든 장치가 이를 사용합니다.</b><br> OpenAI 및 Anthropic API와 TV에 최적화된 화면으로 콘솔 GPU에서 llama.cpp를 실행합니다. </p> <p align="center"> <b><a href="https://github.com/cobanov/PS5LM/releases/latest">앱 받기</a></b> · <a href="https://ps5lm.cobanov.dev">웹사이트</a> · <a href="#try-it">시작하기</a> · <a href="https://github.com/cobanov/PS5LM/issues">이슈</a> </p>

새 기능: Ollaya가 구동하는 의사결정 모델. PS5LM은 이제 Jev와 같은 의사결정 모델(d1, Clef, OpenJev 등)을 GPU에서 실행하며 Ollaya의 /v1/systemone API와 동일한 응답을 제공합니다: 보정된 확률을 가진 타입화된 결정이 순식간에 이루어집니다.

PS5LM은 집에서 개인 모델 서버를 원하는 탈옥된 PS5 사용자들을 위한 것입니다. 이 앱은 GGUF 모델을 콘솔 GPU에 로드하여 노트북, 휴대폰, 코딩 도구로 전송합니다. 실행 시 PC나 클라우드, 계정이 필요 없습니다.

<p align="center"> <a href="docs/media/ps5lm-home.mp4"><img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/ps5lm-home.gif" width="720" alt="Qwen 3.5 9B generating on a PS5, with the requests streaming across the TV"></a><br> _{PS5 Slim에서 노트북의 요청에 응답하는 Qwen 3.5 9B. 비디오를 클릭하세요.} </p> <p align="center"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/app/home.jpg" width="49%" alt="홈: 모델, 속도 및 실시간 요청"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/app/models.jpg" width="49%" alt="모델: PS5를 위해 제안된 모델들"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/app/home-decision.jpg" width="49%" alt="결정 모델이 있는 홈 화면"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/app/console.jpg" width="49%" alt="콘솔: 시간 경과에 따른 온도, 전력 및 부하"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/app/api.jpg" width="49%" alt="API: 엔드포인트와 예시"> <img src="https://raw.githubusercontent.com/cobanov/PS5LM/HEAD/docs/media/app/settings.jpg" width="49%" alt="설정: 행 아래의 선택 목록"> <br>_{TV에서 볼 수 있는 홈, 모델, 콘솔, API 및 설정입니다.} </p>

TV에 설치된 모델 서버

• GPU에서 실행됩니다. llama.cpp의 Vulkan 백엔드가 콘솔의 RDNA 2 GPU를 활용하며, 모델과 컨텍스트에 11.4 GB의 공유 메모리를 사용합니다. llama.cpp가 지원하는 모든 아키텍처와 양자화(quantization)를 사용할 수 있습니다.
• 네트워크에 응답합니다. OpenAI의 /v1/chat/completions, Anthropic의 /v1/messages (Claude Code가 이를 활용함), 그리고 모든 브라우저에서 채팅 페이지를 통해 응답합니다. 클라이언트가 http://<console>:8081을 가리키도록 설정하고 원하는 모델 이름을 사용하면, 로드된 모델이 답변합니다.
• 결정까지 내립니다. 결정(decision) 모델을 로드하면 콘솔은 TypeSafe의 /v1/systemone에 응답하며, 이는 텍스트와 이미지에 대한 선택지, 점수, 예/아니오 질문을 처리하는 PC용 API인 Ollaya가 제공하는 기능입니다.
• 작업 과정을 보여줍니다. 모든 요청은 채팅 형태로 TV를 통해 스트리밍됩니다. 어떤 장치가 요청했는지, 무엇을 요청했는지, 그리고 답변이 작성되는 대로 표시됩니다. Square는 데모를 보내고 Triangle은 키보드를 열어 콘솔을 소파에 앉아서도 사용할 수 있게 합니다.
• 콘솔 상태를 모니터링합니다. 'Console' 페이지에서는 지난 2분 또는 지난 시간 동안의 온도, 전력, GPU 및 CPU 부하를 차트로 보여주고, 모든 측정값 목록을 제공하는 표가 함께 있습니다.
• 적합한 것을 선택합니다. 플래너(planner)는 각 GGUF 파일을 읽고 메모리 여유 공간에 맞는 가장 긴 컨텍스트와 최적의 캐시를 할당합니다. 'Suggested' 목록에는 콘솔에서 측정된 모델들이 표시되며, 앱은 Hugging Face로부터 자체적으로 내부 저장소인 M.2 드라이브나 USB 드라이브로 다운로드합니다.
• 이미지를 읽습니다. 이미지 프로젝터(Image projector)가 있는 모델들(Gemma 4, MiniCPM-V, d1)은 채팅과 결정 과정에서 사진을 찍을 수 있습니다.

결정 모델 (Decision models), Ollaya 기반

Ollaya는 PC에서 Ollama가 언어 모델을 실행하는 방식과 같이 개방형 결정 모델(open decision models)을 실행합니다. PS5LM은 이 아이디어를 콘솔로 가져왔습니다: 결정 모델이 상태를 읽고, 텍스트 생성을 하지 않으면서 단일 순전파(forward pass)로 타이핑된 질문에 응답합니다.

curl http://<console>:8081/v1/systemone -H 'Content-Type: application/json' -d '{
"state": "I was charged twice this month. Refund me or I cancel.",
"questions": {
...
'

The Suggested 목록에는 d1 Omni 600M, d1 3B 및 Clef Flash가 있습니다. llama.cpp의 decision 메타데이터를 포함하는 모든 GGUF는 동일한 방식으로 로드되며, 앱은 이를 decision 모델로 표시합니다.

사용해 보기 (Try it)

이 기능을 사용하려면 다음 페이로드(payload)가 로드된 탈옥된 펌웨어 7.00부터 13.60까지의 PS5가 필요합니다:

1. 최신 릴리스(latest release)에서 ps5lm-app-vX.Y.Z.zip을 다운로드하고 압축을 해제합니다.
2. PPSA99575 폴더를 FTP를 통해 /data/homebrew로 복사합니다. ShadowMountPlus가 홈 화면에 PS5LM을 추가합니다.
3. PS5LM을 열고 Models > Suggested로 이동하여 모델을 가져오거나, .gguf 파일을 /data/PS5LM/models 또는 USB 드라이브의 PS5LM/models로 복사합니다.
4. 로드합니다. 홈(Home)이 Ready 상태가 되면 브라우저에서 http://<console>:8081을 열거나, OpenAI 또는 Anthropic 클라이언트를 해당 주소로 지정합니다.

업데이트하려면 새 폴더를 기존 폴더 위에 복사하면 됩니다. 설정(Settings), 모델(models) 및 다운로드 파일은 /data/PS5LM에 유지됩니다. 코딩 도구(opencode, Codex, Claude Code)에서 사용하는 방법은 docs/CLI.md를 참고하세요.

만져보고 싶으신가요? (Want to tinker?)

ps5-homebrew-ui의 C++ 또는 PS5_Vulkan's RADV 기반의 llama.cpp와 Linux에서 작동하는 ggml-vulkan을 사용해 보세요.

빌드하기(Building) · 콘솔 노트(Console notes) · 포팅(Porting) ·
연구(Research) · 적합한 모델(Models that fit) · 로드맵(Roadmap) ·
변경 로그(Changelog) · 원래 페이로드(The original payload)

감사합니다 (Thanks)

• 이 앱의 기반이 된 네이티브 GPU 애플리케이션을 개발한 [abhi245y]님.
• 실제 작업을 수행하는 llama.cpp 및 ggml.
• PS5에서 PS5_Vulkan 및 RADV를 위한 [Mihawk-99]님, 그리고 patches/mesa의 드라이버 패치를 위한 [PS5CEMU-HAR]님.
• ps5-homebrew-ui, ps5-opengl 및 ps5-homebrew-dev-protocol을 제공한 [BlackBearReloaded]님, 그리고 SDK를 제공한 [John Törnblom]님.
• 앱이 포함하는 ps5-exporter를 위한 [Marice]님.
• 폰트(type)는 Manrope (OFL), 인터페이스 사운드는 PocketVibe님.

---

GPL-3.0 또는 그 이후 버전(later)을 따르며, LICENSE를 참조하십시오. llama.cpp는 MIT 라이선스를 유지하며, Manrope는 OFL을 따릅니다. 이 저장소에는 Sony SDK 파일, 키, 펌웨어 또는 모델 가중치(model weights)가 포함되어 있지 않습니다.

PS5LM은 Sony Interactive Entertainment와 관련이 없습니다.