Leonardo Alegría a fait tourner Qwen3.5-9B sur une PlayStation 4 modifiée. La console reçoit la question, calcule la réponse et peut la lire à voix haute localement. Aucun serveur distant n’exécute le modèle pendant la démonstration.
Une manette suffit pour poser une question
Dans la démonstration, l’assistant répond à une question vocale et écrit un petit programme de dessin avant de l’exécuter. Le projet annonce environ 31 à 39 jetons par seconde en conversation. Ce débit exprime la cadence de génération du texte. Il ne mesure ni la qualité des réponses ni le temps total avec la dictée.
Comment le modèle tient dans la console
Le développeur a réduit la précision des poids pour faire tenir le modèle dans la mémoire disponible. Le jeu de démonstration reste borné par le matériel et par la taille du contexte. L’intérêt est de montrer qu’une console de cette génération peut héberger un assistant local. Garlic LLM est un projet indépendant pour une console modifiée. La démonstration du développeur détaille les éléments présentés.
Un essai local, avec des limites mesurables
Le modèle compressé occupe environ 4,5 Gio et le projet annonce une fenêtre de contexte de 16 000 jetons. La fenêtre de contexte correspond au volume de texte que le modèle peut prendre en compte, tandis que la cadence en jetons par seconde mesure la vitesse à laquelle la réponse s’écrit. La démonstration associe trois tâches différentes : transformer la parole en texte, produire une réponse et la lire. Le résultat montre ce que cette machine peut exécuter dans les conditions du projet. Il ne constitue pas un test comparatif des réponses face aux assistants en ligne.

Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.



