Une PS5 fait tourner une IA de 27 milliards de paramètres grâce à son GPU

Ajouter aux sources préférées — nouvel onglet
Dans cet article

La PS5 sert ici à produire du texte plutôt qu’à afficher un jeu. Avec PS5LM-Plus, un développeur présente l’exécution locale d’un modèle Qwen de 27 milliards de paramètres sur le processeur graphique d’une console modifiée. Il annonce environ 20 tokens par seconde dans sa démonstration, avec un modèle fortement compressé.

Le GPU ouvre une autre réserve de mémoire

L’auteur, qui publie sous le pseudonyme AdIllustrious7246 sur Reddit, détaille son essai dans sa présentation du projet. Le dépôt PS5LM-Plus documente une exécution utilisant le GPU, avec environ 11,4 Gio de mémoire accessibles dans cet environnement.

Le chiffre important n’est pas seulement la vitesse de réponse. Pour un modèle local, réussir à loger les données nécessaires en mémoire conditionne déjà la possibilité de le charger. Le projet cherche donc à exploiter des ressources de la console auxquelles un simple programme limité au processeur central n’accède pas de la même façon.

27 milliards de paramètres, mais un modèle fortement compressé

La démonstration évoque une variante Qwen3.8 27B au format IQ2_XXS. Ce nom technique désigne une quantification très poussée : les données du modèle occupent moins de place, avec un compromis possible sur la qualité des réponses. Le nombre de paramètres ne suffit donc pas à comparer cette exécution à celle d’une version moins compressée sur PC.

Les quelque 20 tokens par seconde sont un résultat rapporté par le créateur. Ils ne constituent ni un test Menow ni une performance garantie pour toutes les conversations. La longueur du contexte et les réglages comptent aussi lorsqu’on évalue la rapidité d’un assistant local.

La console du salon ne propose pas cette fonction dans ses menus

Ce logiciel demande une PS5 modifiée et un environnement homebrew adapté. Il ne s’installe pas comme un jeu depuis le PlayStation Store. La compatibilité dépend des conditions logicielles décrites par le projet ; une console standard tenue à jour ne devient pas automatiquement une machine à IA en téléchargeant le dépôt.

Ce travail appartient à la même famille d’expérimentations que les projets d’émulation sur PS5 : ils montrent d’autres usages du matériel, avec des contraintes bien éloignées d’une fonction grand public.

Le projet circule déjà depuis plusieurs jours en octobre ; la nouveauté n’est donc pas une annonce de Sony tombée ce matin. Il offre surtout un cas concret pour comprendre l’IA locale : la machine calcule elle-même les réponses, tandis que la mémoire disponible et la compression déterminent quels modèles peuvent réellement y fonctionner.

Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.

Samuel Le Goff

Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.

Votre avis compte

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués par *.