JailbreakされたPS5でllama.cppを実行：コンソールでネイティブに任意のGGUFモデルを動作させる

PS5LM あなたのPS5が言語モデルを実行します。ネットワーク上のすべてのデバイスがそれを使用します。コンソールのGPU上でllama.cppを実行し、OpenAIおよびAnthropic APIとテレビ用に作られたスクリーンを備えています。 アプリを入手する · ウェブサイト · 開始する · イシュー 新機能：Ollaya搭載の意思決定モデル。 PS5LMは現在、Jevライクな意思決定モデル（d1、Clef、OpenJevなど）をGPU上で実行し、Ollayaと同じ/v1/systemone APIに応答します。タイプされた決定を確からしい確率で、瞬時に行います。 PS5LMは、自宅にプライベートなモデルサーバーを設置したいJailbreakされたPS5所有者向けです。GGUFモデルをコンソールのGPUにロードし、ラップトップ、スマートフォン、コーディングツールに提供します。実行中にPC、クラウド、アカウントは不要です。 Qwen 3.5 9Bが、PS5 Slim上のラップトップからのリクエストに応答しています。ビデオを見るにはクリック。 テレビ上のモデルサーバー GPU上で実行されます。コンソールのRDNA 2 GPU上のllama.cppのVulkanバックエンドを使用し、モデルとコンテキスト用に11.4 GBの共有メモリを利用できます。llama.cppが知っているすべてのアーキテクチャと量子化が利用可能です。ネットワークに応答します。 OpenAIの/v1/chat/completions、Anthropicの/v1/messages（Claude Codeはこれに対して動作します）、および任意のブラウザのチャットページ。 クライアントをhttp://<console>:8081に向け、モデル名を指定すれば、ロードされたモデルが応答します。 決定も行います。意思決定モデルをロードすると、コンソールが応答します。 TypeSafeの/v1/systemone：PC上でOllayaが提供するAPIと同様に、テキストと画像に関する選択、スコア、はい/いいえの質問を行います。 作業内容を表示します。すべてのリクエストは、どのデバイスがリクエストしたか、何をリクエストしたか、そして応答が作成される様子がチャットとしてテレビにストリーミングされます。Squareボタンはデモを送信し、Triangleボタンはキーボードを開くため、ソファからコンソールを試すことができます。 コンソールを監視します。コンソールページは、過去2分間または過去1時間の温度、電力、GPU、CPU負荷をグラフ表示し、すべての測定値の表も表示します。 適切なものを選択します。プランナーは各GGUFを読み込み、利用可能なメモリに収まる最大のコンテキストと最適なキャッシュを提供します。推奨リストには、コンソールで測定されたモデルが含まれており、アプリはHugging Faceから内部ストレージ、M.2ドライブ、またはUSBドライブに自動的にダウンロードします。 画像も読み込みます。画像プロジェクター（Gemma 4、MiniCPM-V、d1）を備えたモデルは、チャットと意思決定の両方で画像を取り込みます。 モデルサイズ PS5 Slim 上 Qwen 3.5 0.8B, Q4_K_M 0.5 GB 207 トークン/秒 Qwen 3.5 9B, Q4_K_M 5.3 GB 55 トークン/秒 Qwen 3.8 27B, UD-Q2_K_XL 9.2 GB 約20 トークン/秒、64kコンテキスト d1 Omni 600M, 意思決定モデル 1.1 GB 3つの質問に0.3秒。720p画像と7つの質問に2.9秒 意思決定モデル、Ollaya搭載 OllayaはPC上でオープンな意思決定モデルを、Ollamaが言語モデルを実行するのと同じ方法で実行します。PS5LMは、この考え方をコンソールにもたらします。意思決定モデルは状態を読み取り、テキストを生成せずに、1回のフォワードパスでタイプされた質問に答えます。 curl http://<console>:8081/v1/systemone -H 'Content-Type: application/json' -d '{ "state": "今月2回請求されました。返金するか、キャンセルします。", "questions": { "intent": {"type": "choice", "instructions": "顧客は何を求めていますか？", "criteria": {"refund": null, "information": null, "cancel": null}}, "angry": {"type": "noul", "instructions": "顧客は怒っていますか？"} } }' 推奨リストにはd1 Omni 600M、d1 3B、Clef Flashがあります。llama.cppの意思決定メタデータを持つ任意のGGUFは同じようにロードされ、アプリはそれを意思決定モデルとしてラベル付けします。 試してみる ファームウェア7.00から13.60のJailbreakされたPS5が必要です。以下のペイロードがロードされている必要があります。 kstuff-lite カーネルパッチ homebrew実行に必要 etaHEN homebrewサポートが必要 ShadowMountPlus PS5LMをホーム画面に表示 /data/homebrewから必要 elfldr (ポート9021) ps5-exporter経由で温度、電力、実質空き容量を推奨 ftpsrv (ポート2121) PCからアプリのインストール、モデルのコピーを推奨 ps5lm-app-vX.Y.Z.zip を最新リリースからダウンロードし、解凍します。PPSA99575フォルダをFTP経由で/data/homebrewにコピーします。ShadowMountPlusはPS5LMをホーム画面に追加します。 PS5LMを開き、Models > Suggestedに移動してモデルを取得します。または、.ggufファイルを/data/PS5LM/models、またはUSBドライブ上のPS5LM/modelsにコピーします。ロードします。 Home画面にReadyと表示されたら、ブラウザでhttp://<console>:8081を開くか、OpenAIまたはAnthropicクライアントをそれに向けます。 更新するには、新しいフォルダを古いフォルダの上にコピーします。設定、モデル、ダウンロードは/data/PS5LMに保存されます。 コーディングツール（opencode、Codex、Claude Code）からの使用方法はdocs/CLI.mdにあります。 ボタン操作 どこでもボタン L1 / R1 ホーム、モデル、API、コンソール、設定 ホーム クロス モデルを変更 ホーム スクエア / トライアングル デモリクエストを送信 / メッセージを入力 モデル Dパッド、クロス セクションとモデルを選択。ロード、アンロード、ダウンロード モデル、検索 L2 / R2、スクエア 検索を変更。ファイルが収まるか確認 モデル、ダウンロード クロス、スクエア 一時停止または再開。キャンセル（2回押し）またはクリア コンソール L2 / R2 過去2分間 / 過去1時間 設定 Dパッド、クロス カテゴリと行を選択。切り替えるか、リストから選択 設定、診断 スクエア、トライアングル アプリまたはサーバーログ。エラーのみ いじりたいですか？ Linux上でビルドされたps5-homebrew-uiのC++、PS5_Vulkanのggml-vulkan、RADV。 ビルド · コンソールノート · ポート · リサーチ · 適合するモデル · ロードマップ · 変更履歴 · 元のペイロード 感謝 abhi245y、このアプリの元となったネイティブGPUアプリ（PS5LM Plus）を構築した人。llama.cppとggml、実際の作業を行った人。Mihawk-99、PS5のPS5_VulkanとRADV、およびpatches/mesaのドライバパッチ。BlackBearReloaded、ps5-homebrew-ui、ps5-opengl、ps5-homebrew-dev-protocol。John Törnblom、SDK。Marice、アプリが搭載しているps5-exporter。Manrope (OFL)、タイプフェイス。PocketVibe、インターフェースサウンド。 GPL-3.0-or-later、LICENSEを参照。llama.cppはMITライセンスを維持、ManropeはOFLを維持。 このリポジトリには、ソニーインタラクティブエンタテインメントのSDKファイル、キー、ファームウェア、またはモデルウェイトは含まれていません。PS5LMはソニーインタラクティブエンタテインメントと提携していません。「PlayStation」および「PS5」はソニーインタラクティブエンタテインメントの商標です。