Los modelos de IA PS5LM Plus se ejecutan en una GPU de PS5, pero la consola aún no es un PC para IA
Los modelos de IA PS5LM Plus ahora se ejecutan directamente en la GPU de una PlayStation 5 modificada, sustituyendo un enfoque anterior limitado a la CPU que generaba aproximadamente un token por minuto. El desarrollador informa de unos 20 tokens por segundo con un modelo Qwen comprimido de 27.000 millones de parámetros. Según se informa, los modelos más pequeños alcanzan 61 o 124 tokens por segundo.
Este cambio transforma el proyecto de una curiosa adaptación de software en un experimento de inferencia local utilizable. PS5LM Plus puede cargar un modelo de pesos abiertos, mostrar datos de rendimiento en un televisor y ofrecer respuestas a otros dispositivos a través de una red local.
La comparación importante no es PlayStation frente a una empresa de IA concreta. Es el hardware de consumo reutilizado frente a ordenadores dedicados a la IA y servicios en la nube. El resultado en PS5 muestra cómo el acceso al software puede revelar capacidad informática inactiva, pero también deja al descubierto límites estrictos relacionados con la memoria, la compresión de modelos, la instalación y el soporte.
Los modelos de IA PS5LM Plus pasan de la CPU a la GPU
El cambio central es arquitectónico: PS5LM Plus se ejecuta como una aplicación nativa de PS5 con acceso a la GPU, en lugar de como una carga útil limitada a la CPU.
PS5LM comenzó como una adaptación no oficial de llama.cpp, un motor de inferencia de código abierto para ejecutar modelos de lenguaje en muchas plataformas de hardware. Una carga útil es código inyectado en un proceso existente de la consola. Esa vía permitió ejecutar el proyecto inicial, pero no otorgó al software acceso pleno al procesador gráfico de la consola.
La carga útil también enfrentaba un límite de memoria estricto. Según el desarrollador de PS5LM Plus, recibía cerca de 6 GiB de memoria utilizable y debía dejar suficiente capacidad para la interfaz y los servicios del sistema de PS5. Asignar demasiado podía congelar la pantalla de inicio.
Esta restricción importa porque los modelos de lenguaje locales necesitan memoria para sus pesos, búferes de trabajo y caché KV. La caché KV almacena información utilizada durante el procesamiento y la generación de una conversación. Los contextos más largos requieren más memoria de caché, dejando menos espacio para el propio modelo.
PS5LM Plus modifica esta configuración al empaquetar el servidor como un título nativo. La aplicación nativa para GPU del proyecto combina llama-server con un backend Vulkan y una adaptación para PS5 del controlador gráfico RADV. Vulkan es una interfaz de gráficos y computación de bajo nivel que permite al software enviar trabajo a una GPU compatible.
El desarrollador afirma que el título nativo dispone de un montón de memoria de dispositivo de 12 GiB, con unos 11,4 GiB disponibles para el modelo y su contexto durante la operación. No se trata de toda la memoria física de la consola. Es la parte que la aplicación puede utilizar en este entorno homebrew.
La lista de pruebas de rendimiento publicada ilustra lo que cambia el acceso adicional. Un modelo Qwen3.8-27B de 9,2 GiB y fuertemente comprimido generó 20,3 tokens por segundo con un contexto de 32.000 tokens. Una versión de 6,8 GiB alcanzó 20,7 tokens por segundo con un contexto de 64.000 tokens.
Según se informa, un modelo Gemma 4 E4B de 4,8 GiB alcanzó 61 tokens por segundo. Un modelo Llama 3.2 3B de 1,9 GiB llegó a 124 tokens por segundo bajo otra configuración de prueba. Los tokens son fragmentos de texto, por lo que su relación con las palabras varía según el idioma y el contenido.
Estos resultados siguen siendo pruebas de rendimiento comunicadas por el desarrollador, no pruebas estandarizadas realizadas por un laboratorio independiente. Sin embargo, el proyecto publica su código, configuraciones de modelos, ajustes de contexto y tasas de generación observadas. Eso hace que las afirmaciones sean más verificables que un vídeo que muestra la respuesta inexplicada de un chatbot.
El paso a la ejecución en GPU es más importante que el máximo destacado en los titulares. La inferencia de modelos de lenguaje modernos depende en gran medida de operaciones matriciales repetidas, que las GPU procesan de forma más eficiente que las CPU de propósito general. La PS5 ya contenía ese hardware paralelo, pero la carga útil original no podía utilizarlo eficazmente.
PS5LM Plus también añade un panel para televisión. Informa sobre velocidad de generación, utilización del procesador, consumo eléctrico, temperaturas, almacenamiento y la división entre pesos del modelo y caché. Los modelos pueden residir en el almacenamiento interno, una unidad M.2 añadida o almacenamiento USB externo.
La aplicación incluye un explorador de modelos y una interfaz web. Un portátil o teléfono en la misma red local puede enviar instrucciones a la consola y recibir texto generado. Esto hace que la PS5 se parezca menos a un dispositivo de chatbot y más a un pequeño servidor de modelos local.
Esta combinación crea la verdadera tensión de la historia. La consola no recibió hardware más rápido. Los desarrolladores homebrew cambiaron cómo podía accederse al hardware existente, convirtiendo capacidad inaccesible en recursos de inferencia utilizables.
Por qué el acceso nativo a la GPU cambia la economía
PS5LM Plus importa porque convierte hardware de videojuegos ya adquirido en un servidor de inferencia sin conexión, aunque no crea de la noche a la mañana una alternativa práctica para el mercado masivo.
Los sistemas dedicados de IA local suelen requerir que los compradores monten un ordenador de sobremesa, adquieran una estación de trabajo o elijan un ordenador compacto con memoria suficiente. Los servicios en la nube eliminan esa carga de hardware, pero envían instrucciones y documentos a infraestructura fuera del hogar del usuario.
Una PS5 compatible plantea otra posibilidad. La consola combina un procesador AMD, una GPU de clase RDNA 2 y memoria GDDR6 compartida en un único dispositivo de consumo. Los juegos ya utilizan esta configuración para mover datos de forma eficiente entre recursos de procesamiento.
Los modelos de lenguaje se benefician cuando sus pesos caben por completo en memoria rápida. Si el sistema transfiere repetidamente datos del modelo desde almacenamiento más lento, la velocidad de generación puede desplomarse. Por eso la diferencia entre la carga útil de CPU y la aplicación nativa de GPU es tan grande.
PS5LM Plus utiliza cuantización para ajustar modelos más grandes a la memoria disponible. La cuantización almacena los pesos del modelo con menos bits que su representación original de entrenamiento. Reduce el uso de memoria y a menudo acelera la inferencia, pero una compresión agresiva puede reducir la calidad de la salida.
Por lo tanto, el resultado de 27.000 millones de parámetros necesita contexto. Un modelo denso de 27B almacenado a cuatro bits normalmente requeriría más memoria para pesos de la que la aplicación puede exponer. Las versiones mostradas utilizan compresión de aproximadamente dos bits, lo que les permite ajustarse junto con su contexto operativo.
Este compromiso no invalida el experimento. Lo define. PS5LM Plus demuestra que una consola puede ejecutar un modelo con 27.000 millones de parámetros, pero el número de parámetros por sí solo no describe la calidad, la precisión ni los requisitos de memoria.
Las cifras de modelos más pequeños ilustran el otro extremo del equilibrio. Un modelo de 3B cabe cómodamente y genera mucho más rápido. Estos modelos pueden gestionar resúmenes, clasificación, reescritura, extracción estructurada y respuestas básicas a preguntas, según su entrenamiento.
Un servidor local también puede mantener las instrucciones sensibles dentro de la red doméstica. Esto puede ser importante cuando los usuarios trabajan con notas inéditas, código fuente o documentos privados. El beneficio depende de que todo el flujo de trabajo permanezca local, incluidas las interfaces, los sistemas de recuperación o las aplicaciones conectadas.
El proyecto proporciona una API compatible con OpenAI, que imita los formatos de solicitud utilizados por una interfaz de modelos ampliamente adoptada. Las aplicaciones compatibles pueden apuntar a la dirección de red de la PS5 en lugar de a un servicio remoto, siempre que admitan un endpoint personalizado.
La compatibilidad no es lo mismo que la sustitución. Los sistemas en la nube ofrecen modelos más grandes, disponibilidad gestionada, actualizaciones continuas y una amplia infraestructura de seguridad. Una consola doméstica ofrece control físico y evita la dependencia por solicitud de un servicio externo, pero el propietario debe gestionar cada componente.
El experimento con PS5 también difiere de un PC convencional para IA porque el hardware sigue bloqueado en la plataforma de Sony. Su valor procede de una vía de software no oficial. Los compradores no pueden tratar el resultado como una capacidad anunciada del producto ni esperar que Sony lo admita.
Aun así, el experimento cuestiona las suposiciones sobre dónde debe residir la inferencia local. Si una consola de videojuegos puede ofrecer modelos pequeños útiles, entonces televisores, routers, estaciones de trabajo, dispositivos portátiles y otros equipos inactivos merecen un examen más detenido.
La cuestión económica relevante no es si los consumidores deberían comprar una PlayStation únicamente para IA. Es si los dispositivos que ya poseen contienen suficiente ancho de banda de memoria y capacidad de cómputo accesible para cargas de trabajo privadas útiles.
Esta cuestión cobra mayor importancia a medida que mejoran los modelos de pesos abiertos. Un mejor entrenamiento, arquitecturas más pequeñas y una cuantización más sólida pueden aumentar la capacidad sin requerir un crecimiento proporcional del hardware. Por tanto, las mejoras de software pueden hacer que el hardware de videojuegos de ayer sea más útil para las tareas de inferencia de mañana.
Una aplicación nativa convierte la PS5 en un servidor de modelos local
El proyecto tiene éxito al combinar tres componentes existentes: llama.cpp, un controlador Vulkan para PS5 y una aplicación homebrew nativa con un acceso a memoria más amplio.
El primer componente es llama.cpp, que ejecuta modelos distribuidos en formato GGUF. GGUF es un formato de archivo diseñado para empaquetar pesos de modelos y metadatos relacionados para inferencia local. Admite múltiples niveles de cuantización y backends de hardware.
El uso de llama.cpp evita que el proyecto tenga que construir desde cero un entorno de ejecución para modelos de lenguaje. Su componente de servidor ya proporciona carga de modelos, generación de tokens, acceso desde navegador y endpoints de API. El trabajo para PS5 se centra en adaptar esa pila a un entorno operativo inusual.
El segundo componente es el controlador Vulkan para PS5, que lleva el controlador RADV de código abierto a configuraciones homebrew compatibles. RADV suele utilizarse para hardware gráfico AMD en Linux y plataformas abiertas relacionadas. Su adaptación para PS5 permite que las aplicaciones homebrew envíen trabajo a la GPU sin las herramientas propietarias de desarrollo de Sony.
El tercer componente es el propio título nativo. Ejecutarse como una aplicación homebrew instalada ofrece a PS5LM Plus una asignación de memoria utilizable mayor que la carga útil inyectada anterior. También admite una interfaz para televisión diseñada para un mando.
En conjunto, estas piezas permiten a la aplicación colocar cada capa del modelo en la GPU, según la documentación del proyecto. Mantener el modelo en un solo dispositivo evita transferencias repetidas entre la memoria de CPU y GPU durante la generación.
La PS5 utiliza memoria física unificada, pero los permisos de software y las reglas de asignación siguen determinando a qué puede acceder una aplicación. La memoria unificada no implica que cada proceso reciba automáticamente acceso sin restricciones a todo el conjunto.
Por eso el empaquetado nativo importa tanto como la especificación de hardware. La misma consola produjo resultados radicalmente distintos cuando la aplicación pasó de una carga útil limitada a un título con acceso a GPU y más memoria.
La aplicación aún debe gestionar esa memoria con cuidado. Los pesos del modelo comparten espacio con la caché KV, los búferes de ejecución y los recursos gráficos. Aumentar la ventana de contexto puede obligar a los usuarios a elegir un modelo más pequeño o una caché más comprimida.
El desarrollador informa de otra limitación inusual. El entorno nativo no siempre libera limpiamente cada asignación durante un cambio de modelo en la misma ejecución. Por ello, PS5LM Plus reinicia la aplicación al cambiar de modelo, restaurando la memoria disponible antes de cargar el siguiente archivo.
Este comportamiento resultaría incómodo en un dispositivo de consumo pulido. Dentro de un proyecto homebrew experimental, es una respuesta razonable a las limitaciones de la plataforma. El reinicio hace predecible el comportamiento de la memoria y evita que varios gigabytes queden inaccesibles.
El almacenamiento es otra parte práctica del diseño. La aplicación puede cargar archivos GGUF desde el almacenamiento interno, una unidad de expansión M.2 o medios USB. Su interfaz de modelos calcula si un archivo seleccionado y la configuración de contexto cabrán.
El servidor expone entonces el chat a otros dispositivos de la red. Un teléfono puede servir de teclado y pantalla mientras la PS5 realiza la inferencia. Esto resulta útil porque escribir prompts largos con un mando perjudicaría la experiencia.
Este diseño conectado en red también crea casos de uso más creíbles que ejecutar el chat únicamente en el televisor. Un desarrollador podría conectar un editor de código, un investigador podría usar un cliente de navegador o un hogar podría compartir un único endpoint de inferencia privada.
Ninguno de esos escenarios se ha validado a escala de producción. La importancia del proyecto reside en establecer una vía técnica funcional, no en demostrar que una consola sea el mejor dispositivo para todas las cargas de trabajo de IA local.
También existe una continuidad histórica. El proyecto original PS5LM estableció el port inicial y la carga útil de CPU. PS5LM Plus lo amplió con la aplicación nativa para GPU. Desde entonces, el proyecto original ha incorporado trabajo nativo para GPU en su propia aplicación independiente, como reflejan sus versiones de PS5LM.
Esta colaboración y divergencia son típicas del homebrew de código abierto. Un desarrollador establece un port mínimo funcional, otro explora una vía distinta de empaquetado, y las mejoras circulan mediante forks y pull requests.
El resultado importa más allá de este repositorio concreto. El homebrew para consolas depende cada vez más de controladores gráficos, interfaces, cargadores y sistemas de compilación reutilizables. Una vez que existen esas bases, una nueva aplicación puede combinarlas en vez de resolver cada problema de hardware de forma independiente.
El titular de 124 tokens oculta limitaciones importantes
La cifra más rápida corresponde al modelo más pequeño probado, mientras que el modelo 27B más grande depende de una compresión intensa y funciona a aproximadamente una sexta parte de esa velocidad.
Un titular que afirma más de 100 tokens por segundo parece comparable a un sistema de IA de gama alta. Sin el nombre y la configuración del modelo, sin embargo, esa cifra dice poco sobre la capacidad práctica.
PS5LM Plus informa de 124 tokens por segundo para un modelo Llama de 3B. El modelo Qwen de 27B alcanza alrededor de 20 tokens por segundo. Estos modelos difieren en tamaño, entrenamiento, compresión, configuración de contexto y calidad esperada de las respuestas.
El procesamiento de prompts también difiere de la generación de salida. Un modelo puede ingerir la entrada a una velocidad y producir nuevos tokens a otra. Los documentos largos pueden requerir un tiempo apreciable antes de que aparezca la primera palabra generada, incluso cuando la respuesta posterior se transmite con fluidez.
La cobertura independiente de las pruebas de GPU de PS5 confirma las configuraciones informadas, pero se basa en gran medida en los resultados publicados por el desarrollador. Sigue sin haber pruebas comparativas amplias frente a GPU de escritorio, mini PC y procesadores de IA actuales.
La calidad plantea la mayor incógnita. La cuantización a dos bits puede conservar una capacidad sorprendente en algunos modelos, pero los resultados varían según la arquitectura y la tarea. Una demostración de chat exitosa no establece fiabilidad para programación, investigación factual o razonamiento complejo.
El proyecto no publica una evaluación exhaustiva de precisión en distintos niveles de cuantización. Por tanto, los lectores deberían considerar el resultado de 27B como prueba de que el modelo funciona, no como prueba de que rinde como una implementación 27B menos comprimida.
El jailbreak es otra restricción decisiva. PS5LM Plus requiere una consola compatible, firmware, una cadena de exploits y varios componentes homebrew. Una PS5 comercial normal no puede instalar la aplicación mediante la tienda de Sony ni los menús de sistema compatibles.
La compatibilidad de firmware también fragmenta a la audiencia. Los usuarios que actualizan sus consolas para juegos, parches de seguridad o funciones de red pueden perder acceso a un exploit concreto. Mantener un jailbreak suele entrar en conflicto con usar la consola exactamente como Sony pretendía.
El software no oficial introduce riesgo operativo. Una instalación fallida puede requerir diagnóstico, y las actualizaciones de controladores, cargadores o el runtime del modelo pueden romper la compatibilidad. No existe un servicio de soporte comercial responsable de restaurar el sistema.
Los usuarios también deberían considerar las reglas de la plataforma y la seguridad. El jailbreak elimina o sortea controles que protegen el entorno de software de la consola. Instalar código de fuentes no confiables puede exponer datos, credenciales o el propio dispositivo.
PS5LM Plus es de código abierto, lo que facilita la inspección, pero la mayoría de los usuarios no auditará el código ni cada dependencia. El proyecto afirma que no incluye firmware de Sony, claves, archivos propietarios de SDK ni pesos de modelos. Esta separación reduce algunas preocupaciones legales y de distribución sin eliminar todos los riesgos para el usuario.
La eficiencia energética aún no ha recibido suficiente escrutinio comparativo. El panel muestra la potencia del sistema y la energía por token, pero el debate público sobre el rendimiento se centra principalmente en la velocidad de generación. Una comparación útil mediría el mismo modelo y configuración en la PS5, un mini PC integrado y una GPU de escritorio discreta.
La fiabilidad tampoco está demostrada. Una sesión de juego somete el hardware a un estrés distinto que un servidor de modelos funcionando durante muchas horas. La monitorización de temperatura ayuda, pero el tiempo de actividad sostenido, las cargas repetidas de modelos y las solicitudes simultáneas de clientes necesitan pruebas más amplias.
La memoria es el límite inevitable. Unos 11,4 GiB pueden albergar modelos comprimidos capaces, pero no los sistemas de pesos abiertos más grandes. El crecimiento del contexto compite directamente con el tamaño del modelo, especialmente cuando las aplicaciones adjuntan documentos largos o historiales de conversación.
La consola también carece de la flexibilidad de actualización de un equipo de escritorio. Los usuarios no pueden simplemente instalar una GPU más grande ni añadir memoria general del sistema. El almacenamiento puede ampliarse, pero su capacidad no sustituye a la memoria de trabajo de alta velocidad.
Las máquinas dedicadas a IA local mantienen ventajas importantes. Admiten sistemas operativos estándar, herramientas de desarrollo más amplias, controladores maduros, componentes reemplazables y una automatización más sencilla. Muchas pueden ejecutar el mismo software llama.cpp sin jailbreak.
Los servicios en la nube conservan ventajas diferentes. Proporcionan acceso a modelos más grandes, escalado multiusuario y actualizaciones gestionadas. Sus desventajas incluyen dependencia recurrente del servicio, latencia de red, consideraciones de privacidad y políticas de uso cambiantes.
PS5LM Plus ocupa por tanto un espacio reducido pero significativo. Es una reutilización inventiva de hardware existente para desarrolladores cómodos con el homebrew. No es una función de IA compatible para propietarios comunes de PlayStation.
Esta distinción protege la historia de la exageración. El proyecto destaca porque revela lo que la máquina puede hacer bajo condiciones de software diferentes, no porque cambie de inmediato la forma en que operan millones de consolas.
Tres señales mostrarán si la IA en consolas importa
La siguiente etapa no es otra captura de pantalla de velocidad máxima. El proyecto necesita ahora pruebas de calidad repetibles, software estable y evidencia de que la gente usa el servidor para tareas reales.
La primera señal son los benchmarks independientes. Los evaluadores deben ejecutar archivos GGUF idénticos, configuraciones de cuantización, longitudes de contexto y prompts en la PS5 y en hardware habitual de IA local.
Estas pruebas deberían registrar la velocidad de procesamiento de prompts, la velocidad de generación, la latencia hasta el primer token, el consumo energético, la temperatura y la calidad de la salida. También deberían distinguir entre chats breves y cargas de trabajo de contexto largo.
Si los resultados independientes reproducen el rendimiento publicado, se reforzará el argumento a favor de las consolas reutilizadas. Si la calidad cae de forma marcada con la compresión requerida, el titular de 27B importará menos que los resultados de los modelos más pequeños.
La segunda señal es la convergencia del software. PS5LM y PS5LM Plus existen ahora como aplicaciones nativas independientes con raíces técnicas compartidas. Su actividad de lanzamientos mostrará si la comunidad puede mantener el runtime, los parches de controladores, el proceso de instalación y la interfaz de usuario.
Un cambio de modelo estable sería especialmente significativo. Eliminar los requisitos de reinicio, mejorar la limpieza de memoria y documentar fallos recuperables acercaría el software a un dispositivo fiable.
Un soporte más amplio de firmware y hardware también reforzaría el argumento. Un proyecto limitado a un grupo reducido de consolas ya liberadas mediante jailbreak sigue siendo una demostración homebrew. El soporte para más configuraciones lo convertiría en una plataforma reutilizable de inferencia local.
La tercera señal es la adopción real. Entre las evidencias útiles estarían las integraciones con herramientas de programación, sistemas de automatización del hogar, búsqueda de documentos, interfaces de voz privadas o aplicaciones domésticas. Estas tareas comprobarían si la consola puede mantenerse disponible y responder fuera de una demostración controlada.
La adopción también revelaría si los usuarios aceptan las compensaciones. Una PS5 reutilizada puede parecer atractiva cuando ya está inactiva. El cálculo cambia si la consola debe mantenerse desconectada, evitar actualizaciones o dejar de servir modelos cada vez que alguien quiere jugar.
Los modelos más pequeños podrían acabar importando más que la demostración de 27B. Se inician más rápido, dejan más espacio para el contexto y generan respuestas a velocidades más altas. Las mejoras continuas en modelos compactos reforzarían PS5LM Plus sin modificar la consola.
El proyecto también ofrece una lección para los proveedores de hardware de IA. La computación bruta es solo una parte de un producto de inferencia local. El acceso a memoria, el soporte del runtime, el empaquetado de modelos, la observabilidad y las conexiones sencillas para clientes determinan si esa computación se vuelve útil.
Para los desarrolladores, la oportunidad inmediata es la experimentación. El código publicado ofrece un ejemplo concreto de cómo adaptar un motor de inferencia convencional a hardware de consumo restringido. Sus limitaciones plantean problemas de ingeniería útiles en asignación de memoria, comportamiento de controladores y diseño de interfaces.
Para los compradores comunes, esperar es la respuesta sensata. PS5LM Plus no es un motivo para modificar una consola principal de juegos sin comprender las implicaciones de seguridad, compatibilidad y cuentas. Es evidencia de posibilidad técnica, no una recomendación general de compra.
Para el mercado más amplio de la IA, el resultado más interesante sería una clase de dispositivos de inferencia mantenidos por la comunidad y construidos a partir de hardware infrautilizado. Las consolas son solo una opción. Estaciones de trabajo antiguas, PC portátiles, dispositivos multimedia y sistemas integrados pueden ofrecer oportunidades similares cuando el software desbloquea sus aceleradores.
Los modelos de IA de PS5LM Plus ya han superado el primer umbral: funcionan de forma nativa en la GPU de PlayStation 5 a velocidades informadas útiles. El siguiente umbral es más difícil. ¿Puede la comunidad convertir ese resultado en trabajo fiable y medible que justifique la carga de configuración?
Siga los benchmarks independientes, el historial de lanzamientos y las primeras integraciones sostenidas. Esas señales determinarán si PS5LM Plus sigue siendo un logro homebrew memorable o se convierte en un modelo práctico para reutilizar hardware de consumo.
