Apple demande aux applications de prévenir la diffusion d’images intimes fabriquées sans consentement, puis de retirer les contenus concernés. Le groupe vise aussi une tactique de contournement : cacher une fonction nuisible pendant la validation et l’activer après approbation. Annoncées le 16 octobre, ces précisions concernent notamment les outils d’IA et les services qui hébergent les créations de leurs utilisateurs.
Les éditeurs doivent prévenir les abus, puis retirer les images
La modification de la règle 1.2 nomme explicitement les images intimes non consenties, y compris celles produites avec des outils d’intelligence artificielle. Dans son annonce aux développeurs, Apple demande aux plateformes de prévenir leur apparition et de les supprimer. Les éditeurs qui ne mettent pas en place des protections suffisantes, ou ne corrigent pas les violations signalées, s’exposent à un retrait de l’App Store.
Le changement élargit la responsabilité des plateformes au-delà du seul traitement des plaintes. Une application qui héberge les créations de ses utilisateurs doit également empêcher la circulation de ces contenus. La question ne se limite donc pas à l’outil qui fabrique une image : elle touche aussi les espaces de publication et de partage.
Apple rappelle que les contenus pornographiques étaient déjà interdits. Le changement consiste à préciser les responsabilités face aux créations générées par IA, plutôt qu’à inaugurer une première interdiction. Le débat avait notamment touché les deepfakes sexuels produits avec Grok.
Cacher une fonction pendant la validation peut coûter le compte développeur
La règle 2.5.19 porte sur un autre contournement : présenter une application acceptable aux équipes de validation, puis en révéler les capacités nuisibles après approbation. Apple cite les outils de « déshabillage » artificiel parmi les exemples de cette pratique.
Les consignes de validation interdisent les fonctions cachées, dormantes ou non documentées. L’application doit annoncer clairement ce qu’elle fait aux utilisateurs comme aux équipes de contrôle. La sanction peut aller jusqu’au retrait de l’app et à la fermeture du compte développeur.
Une fiche commerciale rassurante ne protège pas un éditeur dont le logiciel dissimule une fonction interdite. Apple examine ici l’écart entre l’application présentée à ses équipes et celle que les utilisateurs peuvent réellement utiliser. Une capacité cachée dans le code est expressément visée par cette règle.
Le blocage s’étend à la distribution alternative pour certains contenus
Apple étend également les précisions de sa section 5 aux applications qui facilitent la traite d’êtres humains ou l’exploitation d’enfants. Pour ces contenus, le groupe mentionne explicitement un blocage de la distribution alternative, au-delà du seul App Store. Ce passage ne doit pas être confondu avec une interdiction générale de toutes les applications d’IA distribuées autrement.
Pour le public français, le sujet est celui des protections appliquées aux services utilisés sur iPhone. Aucun calendrier de nettoyage complet ni liste de retraits immédiats n’accompagne l’annonce. La portée concrète se mesurera dans les protections demandées aux éditeurs et dans les décisions de retrait, au-delà du seul texte des nouvelles règles.
Samuel Le Goff suit l’actualité des smartphones, des systèmes d’exploitation mobiles et de l’intelligence artificielle depuis plus de 14 ans. Il couvre notamment Samsung, Xiaomi, Apple, Android, iOS et les grandes tendances du numérique.
