Deepfakes sexuels dans l’App Store et le Play Store : persistance Une enquête révèle que des deepfakes sexuels restent accessibles sur l’App Store et le Play Store malgré les règles et les suspensions.
Les deepfakes sexuels, générés par IA, restent présents dans les boutiques mobiles malgré les règles affichées par Apple et Google. Dans une nouvelle enquête publiée par le Tech Transparent Project (TTP), la présence persistante de ces applications est démontrée sur l’App Store et le Play Store, après une première publication en janvier qui avait mis au jour plus de 100 apps problématiques.
Selon le TTP, l’analyse s’est portée sur les moteurs de recherche internes des boutiques: en tapant des termes comme « nudify », « undress », « deepfake », « deepnude » ou « AI NSFW », on tombe toujours sur des apps permettant de générer des nus synthétiques. Au total, 46 apps ont été repérées sur l’App Store et 49 sur le Play Store, l’enquête ciblant les dix premiers résultats de chaque liste.
Des règles claires sur l’App Store et le Play Store, mais des résultats inégaux
Apple interdit les applications « offensantes, choquantes ou de mauvais goût », notamment celles proposant du contenu explicitement sexuel ou pornographique. Google bannit quant à lui les apps qui « déshabillent les personnes ou permettent de voir à travers les vêtements ». Or, l’enquête montre que ces règles ne suffisent pas à empêcher l’accès à des deepfakes sexuels, et que les résultats de recherche restent alimentés par ces apps.
Ce que révèle l’enquête du Tech Transparent Project
Les tests effectués avec des images générées par IA indiquent que 40 % des applications étudiées (18 sur l’App Store, 20 sur le Play Store) permettent de dénuder ou de déshabiller les sujets, ou insinuent clairement cette fonctionnalité, parfois gratuitement. En parallèle, les suggestions automatiques proposées par les boutiques orientent les utilisateurs vers encore plus d’apps de deepfakes sexuels.
- État des lieux : 46 apps sur l’App Store et 49 sur le Play Store repérées par le TTP.
- Tests menés : les dix premiers résultats de recherche ont été passés au crible.
- Impact économique : ces apps représentent 483 millions de téléchargements et plus de 122 millions de dollars de revenus selon AppMagic, avec des commissions pour les plateformes et des revenus publicitaires.
« les moteurs de recherche et la publicité mettent activement en avant ces applications », affirme le Tech Transparent Project, rappelant que les boutiques mobiles génèrent des revenus à partir de ces apps.
Les boutiques continuent aussi d’afficher des publicités liées à ces contenus, ce qui va à l’encontre de leurs propres restrictions sur les contenus adultes et non consentis. Google a déclaré que la plupart des applications identifiées avaient été suspendues (7 supprimées) et qu’un renforcement des règles sur le Play Store était en cours. Apple, de son côté, a supprimé 15 apps litigieuses après la publication de l’enquête, selon les informations disponibles publiquement.
Contexte, limites et ce qu’on ne sait pas encore
Sur le plan technique, les résultats varient selon les régions et les tests effectués. Des recherches menées par nos propres vérifications sur un iPhone en région États‑Unis en anglais (via VPN) ne retrouvent pas certains termes testés par le TTP comme « nudify » ou « deepnude », mais les résultats montrent encore des apps génériques associées au mot « deepfake ». Le sujet est complexe: même lorsque des apps sont suspendues, d’autres apparaissent via des publicités ou des suggestions de recherche, rendant la déconnexion entre règles et pratique difficile à obtenir à court terme.
Les cas miroirs comme Grok et X, évoqués pour illustrer les risques, démontrent que la simple suppression d’apps ne suffit pas à endiguer le phénomène si les moteurs de recherche et les publicités restent générateurs de trafic vers ces contenus. Le déploiement d’outils de détection et des politiques plus strictes des stores semblent indispensables, mais les détails opérationnels restent en discussion entre les plateformes, les éditeurs et les régulateurs.
Pour terminer
La situation révèle une tension entre règles affichées et réalité opérationnelle des boutiques d’apps. Si les autorités et les plateformes veulent vraiment limiter les abus autour des deepfakes sexuels, elles devront aller au-delà des suppressions ponctuelles et renforcer la modération, la détection proactive et la transparence des algorithmes de recommandation.
