PS5LM Plus AIモデルがPS5 GPU上で動作、ただしコンソールはまだAI PCではない
PS5LM Plus AIモデルは現在、ジェイルブレイク済みのPlayStation 5 GPU上で直接動作する。以前はCPUに縛られ、毎分およそ1トークンしか生成できなかった方式に代わるものだ。開発者によると、圧縮された270億パラメータのQwenモデルでは毎秒約20トークンを達成したという。より小型のモデルでは、毎秒61トークンまたは124トークンに達したと報告されている。
この変化により、プロジェクトは珍しいソフトウェア移植から、実用的なローカル推論実験へと変わった。PS5LM Plusはオープンウェイトモデルを読み込み、テレビに性能データを表示し、ローカルネットワーク経由で他のデバイスへ応答を提供できる。
重要なのは、PlayStationと特定のAI企業の競争ではない。用途転換されたコンシューマーハードウェアと、専用AIコンピューターおよびクラウドサービスとの比較だ。PS5の結果は、ソフトウェアへのアクセスが眠っていた計算価値を引き出し得ることを示す一方、メモリ、モデル圧縮、導入、サポートに関する厳しい制約も明らかにしている。
PS5LM Plus AIモデル、CPUからGPUへ移行
中心的な変更はアーキテクチャにある。PS5LM Plusは制約の多いCPUペイロードではなく、GPUにアクセスできるネイティブPS5アプリケーションとして動作する。
PS5LMは、多様なハードウェアプラットフォームで言語モデルを実行するためのオープンソース推論エンジン、llama.cppの非公式移植版として始まった。ペイロードとは、既存のコンソールプロセスへ注入されるコードを指す。この方法によって初期プロジェクトは動作したが、ソフトウェアにコンソールのGPUへの完全なアクセスは与えられなかった。
ペイロードは厳しいメモリ上限にも直面していた。PS5LM Plusの開発者によれば、利用可能なメモリは約6 GiBで、PS5のインターフェースとシステムサービスのための容量を残す必要があった。割り当てすぎるとホーム画面がフリーズする可能性があった。
この制約は重要である。ローカル言語モデルは、ウェイト、作業バッファ、KVキャッシュのためにメモリを必要とする。KVキャッシュは、会話を処理・生成する際に使われる情報を保存する。より長いコンテキストにはより多くのキャッシュメモリが必要となり、モデル自体に使える領域は減る。
PS5LM Plusは、サーバーをネイティブタイトルとしてパッケージ化することで、この構成を変える。プロジェクトのネイティブGPUアプリは、llama-server、Vulkanバックエンド、そしてPS5向けに移植されたRADVグラフィックスドライバーを組み合わせている。Vulkanは、ソフトウェアが対応GPUへ処理を投入できる低レベルのグラフィックス・コンピュートインターフェースだ。
開発者によると、ネイティブタイトルは12 GiBのデバイスヒープを利用でき、動作中はそのうち約11.4 GiBをモデルとコンテキストに使えるという。これはコンソールの物理メモリ全体ではない。このhomebrew環境でアプリケーションが利用できる部分である。
報告されたベンチマークリストは、追加されたアクセスによって何が変わるかを示している。9.2 GiBの大幅に圧縮されたQwen3.8-27Bモデルは、32,000トークンのコンテキストで毎秒20.3トークンを生成した。6.8 GiB版は、64,000トークンのコンテキストで毎秒20.7トークンに達した。
4.8 GiBのGemma 4 E4Bモデルは、毎秒61トークンに達したと報告されている。1.9 GiBのLlama 3.2 3Bモデルは、別のテスト構成で毎秒124トークンに達した。トークンはテキストの断片であるため、単語との対応は言語や内容によって異なる。
これらの結果は、独立した研究機関による標準化テストではなく、引き続き開発者報告のベンチマークである。ただし、プロジェクトはコード、モデル構成、コンテキスト設定、観測された生成速度を公開している。そのため、説明のないチャットボット応答を映した動画より、主張を検証しやすい。
GPU実行への移行は、見出しを飾るピーク性能より重要だ。現代の言語モデル推論は反復的な行列演算に大きく依存しており、GPUは汎用CPUより効率的に処理する。PS5にはすでにその並列ハードウェアが搭載されていたが、元のペイロードはそれを効果的に使えなかった。
PS5LM Plusにはテレビ向けダッシュボードも追加された。生成速度、プロセッサ使用率、消費電力、温度、ストレージ、モデルウェイトとキャッシュの配分を表示する。モデルは内部ストレージ、追加したM.2ドライブ、または外部USBストレージに置ける。
アプリケーションにはモデルブラウザーとWebインターフェースが含まれる。同じローカルネットワーク上のノートPCやスマートフォンは、コンソールにプロンプトを送り、生成テキストを受け取れる。これによりPS5は、チャットボット専用機器というより小規模なローカルモデルサーバーのように振る舞う。
この組み合わせが、この話の本当の緊張関係を生む。コンソールにより高速なハードウェアが追加されたわけではない。homebrew開発者が既存ハードウェアへのアクセス方法を変え、利用できなかった能力を使える推論リソースへと変えた。
ネイティブGPUアクセスが経済性を変える理由
PS5LM Plusが重要なのは、すでに所有しているゲームハードウェアをオフライン推論サーバーへ転換する点にある。ただし、実用的な大衆市場向け代替手段を一夜で生み出すものではない。
専用ローカルAIシステムでは通常、購入者がデスクトップを組み立てるか、ワークステーションを購入するか、十分なメモリを備えたコンパクトコンピューターを選ぶ必要がある。クラウドサービスはこうしたハードウェアの負担を取り除くが、プロンプトや文書をユーザー宅の外部にあるインフラへ送る。
対応するPS5は別の可能性を提示する。このコンソールは、AMDプロセッサ、RDNA 2世代のGPU、共有GDDR6メモリを1台のコンシューマー機器に統合している。ゲームはすでにこの構成を活用し、処理リソース間でデータを効率よく移動している。
言語モデルは、ウェイト全体が高速メモリに収まる場合に恩恵を受ける。システムが低速なストレージからモデルデータを繰り返し転送すれば、生成速度は大幅に低下し得る。これが、CPUペイロードとネイティブGPUアプリケーションの差が非常に大きい理由だ。
PS5LM Plusは、より大きなモデルを利用可能なメモリに収めるために量子化を使用する。量子化は、モデルウェイトを元の学習時の表現より少ないビットで保存する手法だ。メモリ使用量を減らし、しばしば推論を高速化するが、強い圧縮は出力品質を低下させる可能性がある。
したがって、270億パラメータという結果には文脈が必要となる。4ビットで保存された高密度な27Bモデルは一般に、アプリケーションが公開できる容量より多くのウェイトメモリを必要とする。紹介されたバージョンはおよそ2ビット圧縮を使用し、動作コンテキストとともに収められるようにしている。
この妥協は実験の価値を損なうものではない。むしろ実験を規定するものだ。PS5LM Plusは、コンソールが270億パラメータのモデルを実行できることを示すが、パラメータ数だけでは品質、精度、メモリ要件を説明できない。
小型モデルの数値は、トレードオフのもう一方を示している。3Bモデルは余裕を持って収まり、はるかに高速に生成する。このようなモデルは、学習内容に応じて、要約、分類、書き換え、構造化抽出、基本的な質問応答を処理できる。
ローカルサーバーは、機密性の高いプロンプトを家庭内ネットワークに留めることもできる。ユーザーが未公開のメモ、ソースコード、私的な文書を扱う場合には重要になり得る。この利点は、インターフェース、検索システム、接続アプリケーションを含むワークフロー全体がローカルに留まることに依存する。
プロジェクトは、広く採用されているモデルインターフェースのリクエスト形式を模倣するOpenAI互換APIを提供する。対応アプリケーションは、カスタムエンドポイントをサポートしていれば、リモートサービスの代わりにPS5のネットワークアドレスを指定できる。
互換性は代替可能性と同じではない。クラウドシステムは、より大規模なモデル、管理された可用性、継続的な更新、広範な安全性インフラを提供する。家庭用コンソールは物理的な制御をもたらし、外部サービスへのリクエストごとの依存を避けられるが、所有者はすべての構成要素を管理しなければならない。
PS5の実験は、ハードウェアがSonyのプラットフォームにロックされたままである点でも、従来のAI PCと異なる。その価値は非公式なソフトウェア経路に由来する。購入者はこの結果を宣伝された製品機能として扱うことも、Sonyのサポートを期待することもできない。
それでも、この実験はローカル推論がどこに属するのかという前提に問いを投げかける。ゲーム機が有用な小型モデルを提供できるなら、テレビ、ルーター、ワークステーション、携帯機、その他の遊休デバイスも、より詳しく検討する価値がある。
経済的に重要な問いは、消費者がAIのためだけにPlayStationを購入すべきかどうかではない。すでに所有するデバイスが、有用なプライベートワークロードに十分なアクセス可能なメモリ帯域幅と計算能力を持つかどうかだ。
この問いは、オープンウェイトモデルの性能向上に伴ってさらに重要になる。より優れた学習、小型化されたアーキテクチャ、強力な量子化は、ハードウェアを比例して増強せずとも能力を高められる。したがってソフトウェアの改善は、昨日のゲームハードウェアを明日の推論タスクにより有用なものにし得る。
ネイティブアプリがPS5をローカルモデルサーバーに変える
このプロジェクトは、llama.cpp、PS5向けVulkanドライバー、そしてより広いメモリアクセスを持つネイティブhomebrewアプリケーションという、既存の3つの要素を組み合わせることで成功している。
最初の要素は、GGUF形式で配布されるモデルを実行するllama.cppだ。GGUFは、ローカル推論向けにモデルウェイトと関連メタデータをパッケージ化するために設計されたファイル形式である。複数の量子化レベルとハードウェアバックエンドをサポートする。
llama.cppを利用することで、プロジェクトは言語モデルランタイムをゼロから構築せずに済む。そのサーバーコンポーネントはすでに、モデル読み込み、トークン生成、ブラウザーアクセス、APIエンドポイントを提供している。PS5向けの作業は、このスタックを特殊な動作環境へ適応させることに焦点を当てている。
2つ目の要素は、対応するhomebrew環境にオープンソースのRADVドライバーをもたらすPS5 Vulkan driverだ。RADVは通常、Linuxなどのオープンプラットフォーム上でAMDグラフィックスハードウェアに対応する。そのPS5向け適応により、homebrewアプリケーションはSonyの独自開発ツールを使わずにGPU処理を投入できる。
3つ目の要素はネイティブタイトルそのものである。インストールされたhomebrewアプリケーションとして動作することで、PS5LM Plusは以前の注入型ペイロードより大きな利用可能メモリ割り当てを得られる。また、コントローラー向けに設計されたテレビインターフェースもサポートする。
プロジェクトのドキュメントによれば、これらの要素を組み合わせることで、アプリケーションはすべてのモデルレイヤーをGPU上に配置できる。モデルを1つのデバイスに保持することで、生成中にCPUとGPUメモリの間で繰り返される転送を避けられる。
PS5は統合された物理メモリを使うが、アプリケーションが到達できる範囲は依然としてソフトウェアの権限と割り当てルールによって決まる。統合メモリは、すべてのプロセスがプール全体へ自動的に無制限アクセスできることを意味しない。
これが、ネイティブパッケージ化がハードウェア仕様と同じほど重要である理由だ。アプリケーションが制限されたペイロードから、GPUと大容量メモリにアクセスできるタイトルへ移ったとき、同じコンソールは大きく異なる結果を示した。
アプリケーションはなお、メモリを慎重に管理する必要がある。モデルウェイトはKVキャッシュ、ランタイムバッファ、グラフィックスリソースと領域を共有する。コンテキストウィンドウを広げると、ユーザーはより小さなモデルまたはより強く圧縮されたキャッシュを選ばざるを得なくなる可能性がある。
開発者は、もう1つの特殊な制約も報告している。ネイティブ環境では、アプリケーション内でモデルを切り替える際に、すべての割り当てを常に完全に解放できるとは限らない。そのためPS5LM Plusは、モデル変更時にアプリケーションを再起動し、次のファイルを読み込む前に利用可能なメモリプールを復元する。
この挙動は、洗練されたコンシューマー向け機器では扱いにくく感じられるだろう。実験的なhomebrewプロジェクトの範囲では、プラットフォーム制約に対する合理的な対応だ。再起動によりメモリの挙動は予測可能になり、数GiBが利用不能なまま残ることを避けられる。
ストレージも設計上の実用的な要素です。このアプリケーションは、内蔵ストレージ、M.2拡張ドライブ、またはUSBメディアからGGUFファイルを読み込めます。モデルインターフェースは、選択したファイルとコンテキスト構成が収まるかどうかを推定します。
その後、サーバーはネットワーク上の他のデバイスにチャット機能を公開します。PS5が推論を実行しながら、スマートフォンをキーボード兼ディスプレイとして利用できます。コントローラーで長いプロンプトを入力すると体験を損ねてしまうため、これは有用です。
このネットワーク設計は、テレビだけでチャットを実行するよりも説得力のある利用例を生み出します。開発者はコードエディタを接続でき、研究者はブラウザクライアントを使え、家庭では1つのプライベートな推論エンドポイントを共有できます。
こうしたシナリオはいずれも、本番規模では検証されていません。このプロジェクトの重要性は、コンソールがあらゆるローカルAIワークロードに最適なデバイスであることを証明する点ではなく、機能する技術的な道筋を示した点にあります。
歴史的な連続性もあります。元のPS5LMプロジェクトは、初期の移植とCPUペイロードを確立しました。PS5LM Plusは、ネイティブGPUアプリケーションによってそれを拡張しました。元のプロジェクトもその後、ネイティブGPU機能を独自の別アプリケーションに取り込んでおり、そのことはPS5LM releasesに反映されています。
こうした協力と分岐は、オープンソースのホームブリューでは典型的です。ある開発者が最小限の動作する移植版を確立し、別の開発者が異なるパッケージング手法を探り、改善がフォークやプルリクエストを通じて広がっていきます。
この成果は、この特定のリポジトリにとどまらない意味を持ちます。コンソールのホームブリューは、再利用可能なグラフィックスドライバー、インターフェース、ローダー、ビルドシステムへの依存を強めています。こうした基盤が存在すれば、新しいアプリケーションはハードウェア上の問題をそれぞれ独力で解決する代わりに、それらを組み合わせて利用できます。
124トークンという見出しの裏にある重大な制約
最速の数値は最小のテストモデルに属し、より大きな27Bモデルは強い圧縮に依存し、その約6分の1の速度で動作します。
毎秒100トークンを超えるという見出しは、ハイエンドのAIシステムに匹敵するように聞こえます。しかし、モデル名と構成がなければ、その数値は実用的な能力についてほとんど語りません。
PS5LM Plusは、3BのLlamaモデルで毎秒124トークンを報告しています。27BのQwenモデルは毎秒約20トークンに達します。これらのモデルは、サイズ、学習、圧縮、コンテキスト設定、期待される回答品質が異なります。
プロンプト処理も出力生成とは異なります。モデルはある速度で入力を取り込み、別の速度で新しいトークンを生成できます。長い文書では、その後の応答が滑らかにストリーミングされる場合でも、最初の生成語が現れるまでに目立つ時間がかかる可能性があります。
PS5 GPU testsの独立報道は報告された構成を確認していますが、主に開発者が公開した結果に依拠しています。デスクトップGPU、ミニPC、現行のAIプロセッサとの幅広い比較テストは、依然としてありません。
品質はより大きな未知数です。2ビット量子化は一部のモデルで驚くほどの能力を維持できるものの、結果はアーキテクチャやタスクによって異なります。チャットデモの成功は、コーディング、事実調査、複雑な推論における信頼性を確立するものではありません。
このプロジェクトは、量子化レベルをまたぐ包括的な精度評価を公開していません。したがって読者は、27Bの結果をモデルが動作する証拠として扱うべきであり、より圧縮の少ない27Bデプロイメントと同等に機能する証拠と見なすべきではありません。
ジェイルブレイクも決定的な制約です。PS5LM Plusには、対応するコンソール、ファームウェア、エクスプロイトチェーン、複数のホームブリューコンポーネントが必要です。通常の市販PS5では、Sonyのストアやサポート対象のシステムメニューからこのアプリケーションをインストールできません。
ファームウェア互換性も対象ユーザーを分断します。ゲーム、セキュリティパッチ、ネットワーク機能のためにコンソールを更新するユーザーは、特定のエクスプロイトへのアクセスを失う可能性があります。ジェイルブレイクを維持することは、Sonyが意図した通りにコンソールを利用することとしばしば衝突します。
非公式ソフトウェアには運用上のリスクがあります。セットアップに失敗すればトラブルシューティングが必要になる可能性があり、ドライバー、ローダー、モデルランタイムの更新によって互換性が損なわれることもあります。システムの復旧を担う商用サポート窓口はありません。
ユーザーはプラットフォーム規則とセキュリティも考慮すべきです。ジェイルブレイクは、コンソールのソフトウェア環境を保護する制御を削除または回避します。信頼できないソースのコードをインストールすると、データ、認証情報、あるいはデバイス自体が危険にさらされる可能性があります。
PS5LM Plusはオープンソースであり、これは検証を支えます。しかし、大半のユーザーがコードやすべての依存関係を監査するわけではありません。プロジェクトは、Sonyのファームウェア、鍵、プロプライエタリSDKファイル、モデルウェイトを含まないと述べています。この分離は法的・配布上の懸念の一部を軽減しますが、すべてのユーザーリスクを排除するものではありません。
電力効率は、まだ十分な比較検証を受けていません。ダッシュボードにはシステム消費電力とトークン当たりのエネルギーが表示されますが、公開されている性能議論は主に生成速度に集中しています。有用な比較では、PS5、統合型ミニPC、ディスクリートGPU搭載デスクトップで同一モデル・同一設定を測定する必要があります。
信頼性も未証明です。ゲームセッションと、何時間にもわたって動作するモデルサーバーでは、ハードウェアへの負荷が異なります。温度監視は役立ちますが、持続的な稼働時間、繰り返しのモデル読み込み、同時クライアント要求には、より広範なテストが必要です。
メモリは避けられない上限です。およそ11.4 GiBは有能な圧縮モデルを収容できますが、最大規模のオープンウェイトシステムは収容できません。特にアプリケーションが長い文書や会話履歴を添付する場合、コンテキストの拡大はモデルサイズと直接競合します。
コンソールには、デスクトップのようなアップグレードの柔軟性もありません。ユーザーはより大きなGPUを簡単に取り付けたり、汎用システムメモリを追加したりできません。ストレージは拡張できますが、ストレージ容量は高速な作業用メモリの代わりにはなりません。
専用のローカルAIマシンには、依然として重要な利点があります。標準的なオペレーティングシステム、より幅広い開発者ツール、成熟したドライバー、交換可能なコンポーネント、より容易な自動化をサポートします。多くはジェイルブレイクなしで同じllama.cppソフトウェアを実行できます。
クラウドサービスには別の利点があります。より大きなモデルへのアクセス、マルチユーザーのスケーリング、管理された更新を提供します。その欠点には、継続的なサービス依存、ネットワーク遅延、プライバシー上の考慮事項、変化する利用ポリシーが含まれます。
したがってPS5LM Plusは、狭いながらも意味のある領域を占めます。これは、ホームブリューに慣れた開発者にとって、既存ハードウェアを創意的に再利用する取り組みです。一般的なPlayStation所有者向けにサポートされたAI機能ではありません。
この区別は、物語を誇張から守ります。このプロジェクトが注目に値するのは、数百万台のコンソールの動作を即座に変えるからではなく、異なるソフトウェア条件下でマシンが何を実現できるかを示すからです。
コンソールAIの意義を示す3つの兆候
次の段階に必要なのは、もう1枚の最高速度スクリーンショットではありません。プロジェクトには今、再現可能な品質テスト、安定したソフトウェア、そして人々が実際の作業にサーバーを使う証拠が必要です。
最初の兆候は、独立したベンチマークです。テスターは、PS5と一般的なローカルAIハードウェア上で、同一のGGUFファイル、量子化設定、コンテキスト長、プロンプトを実行する必要があります。
こうしたテストでは、プロンプト処理速度、生成速度、最初のトークンまでの遅延、エネルギー使用量、温度、出力品質を記録すべきです。また、短いチャットと長いコンテキストのワークロードを区別する必要があります。
独立した結果が公開性能を再現すれば、再利用されたコンソールを支持する根拠は強まります。必要な圧縮で品質が大幅に低下するなら、27Bという見出しは小規模モデルの結果ほど重要ではなくなるでしょう。
2つ目の兆候は、ソフトウェアの収束です。PS5LMとPS5LM Plusは現在、共通する技術的基盤を持つ別々のネイティブアプリケーションとして存在します。リリース活動は、コミュニティがランタイム、ドライバーパッチ、インストールプロセス、ユーザーインターフェースを維持できるかを示すでしょう。
安定したモデル切り替えは、特に意味を持ちます。再起動要件の撤廃、メモリクリーンアップの改善、復旧可能な障害の文書化は、ソフトウェアを信頼できるアプライアンスに近づけるでしょう。
より広いファームウェアおよびハードウェアサポートも、この主張を強めます。すでにジェイルブレイク済みの狭いコンソール群に限られるプロジェクトは、ホームブリューのショーケースにとどまります。より多くの構成への対応によって、再利用可能なローカル推論プラットフォームとなるでしょう。
3つ目の兆候は、実際の採用です。有用な証拠には、コーディングツール、ホームオートメーションシステム、文書検索、プライベートな音声インターフェース、家庭向けアプリケーションとの統合が含まれます。こうしたタスクは、制御されたデモの外でもコンソールが利用可能で応答性を保てるかを試します。
採用は、ユーザーがトレードオフを受け入れるかどうかも明らかにします。すでに使われずに置かれているPS5であれば、その再利用は魅力的に見えるかもしれません。しかし、コンソールをオフラインに保つ必要がある、更新を避ける必要がある、あるいは誰かがゲームをしたいときにはモデル提供を停止しなければならない場合、計算は変わります。
最終的には、27Bのデモよりも小規模モデルの方が重要になるかもしれません。起動が速く、コンテキスト用の余地をより多く残し、より高い速度で応答を生成します。コンパクトモデルが継続的に改善されれば、コンソール自体を変えずにPS5LM Plusを強化できます。
このプロジェクトは、AIハードウェアベンダーにも教訓をもたらします。生の演算能力は、ローカル推論製品の一部にすぎません。メモリアクセス、ランタイムサポート、モデルのパッケージング、可観測性、容易なクライアント接続が、その演算能力を有用なものにできるかを決定します。
開発者にとって、当面の機会は実験です。公開されたコードは、主流の推論エンジンを制約のある消費者向けハードウェアに適応させる具体例を提供します。その制約は、メモリ割り当て、ドライバーの挙動、インターフェース設計に関する有用なエンジニアリング課題をもたらします。
一般の購入者にとっては、待つことが賢明な対応です。PS5LM Plusは、セキュリティ、互換性、アカウントへの影響を理解せずに主力ゲームコンソールを改造する理由にはなりません。これは技術的可能性の証拠であり、一般的な購入推奨ではありません。
より広いAI市場にとって最も興味深い成果は、十分に活用されていないハードウェアから構築された、コミュニティ管理の推論アプライアンスという分類が生まれることでしょう。候補はコンソールだけではありません。古いワークステーション、ハンドヘルドPC、メディアボックス、統合型システムも、ソフトウェアがアクセラレータの能力を引き出す場合には同様の機会を提供する可能性があります。
PS5LM PlusのAIモデルはすでに最初の閾値を越えています。PlayStation 5のGPU上でネイティブに動作し、報告上は実用的な速度に達しています。次の閾値はより困難です。コミュニティは、この結果をセットアップ負担を正当化する、信頼でき測定可能な作業へと変えられるでしょうか。
独立ベンチマーク、リリース履歴、そして最初の持続的な統合に注目してください。これらの兆候が、PS5LM Plusが記憶に残るホームブリューの成果にとどまるのか、それとも消費者向けハードウェアを再利用する実用的なモデルになるのかを決定するでしょう。
