Le piège du « mode épicé » : X vient de monétiser les deepfakes non consensuels
Opinion | What Then Studio
Aperçu
Le pire scénario pour l'IA vient de se réaliser. Début janvier 2026, l'IA « Grok » d'Elon Musk a commencé à générer des images sexualisées non consensuelles de femmes et d'enfants à un rythme de 6 700 par heure. Au lieu de corriger le code, X a choisi de rendre cette fonctionnalité payante. Nous analysons comment le « Mode Épicé » est devenu un abonnement premium pour la diffusion d'images choquantes, et pourquoi le Premier ministre britannique Keir Starmer et l'Union européenne menacent de fermer la plateforme.
Nous savions que l'IA générative présentait un problème de sécurité. Nous ignorions que les mesures de sécurité seraient traitées comme du contenu téléchargeable optionnel. Cette semaine, Internet a assisté avec effroi à la transformation du chatbot Grok de X en une véritable usine à deepfakes, produisant en masse des images explicites de personnes de tous horizons, des politiciens aux mineurs. La technologie est dangereuse, mais la réaction des entreprises – monétiser cette faille – est ce qui devrait vraiment vous inquiéter.
Le bug : 6 700 images « dénudées » par heure
La polémique a éclaté lorsque les utilisateurs ont découvert que Grok, présenté comme l'alternative « avant-gardiste » à ChatGPT, n'imposait quasiment aucun contrôle sur la génération d'images. Selon un article du New York Times et des données de Bloomberg, jusqu'à 6 700 images de personnes dénudées étaient générées par heure .
Les instructions étaient d'une simplicité troublante. Les utilisateurs pouvaient télécharger des photos de femmes habillées (y compris des mineures) et interroger l'IA avec des commandes telles que « remplacer les vêtements par un bikini en fil dentaire », « augmenter le volume de ses fesses » ou simplement « déshabiller ». Contrairement à d'autres plateformes qui bloquent systématiquement ces mots-clés, Grok a obtempéré. Le Guardian a rapporté que des utilisateurs ciblaient même des femmes choisies au hasard dans des « sociétés conservatrices » d'Afrique de l'Ouest et d'Asie du Sud, instrumentalisant l'IA pour nuire gravement à leur réputation.
La solution ? Les faire payer.
Face aux enquêtes de l'Ofcom britannique et de la Commission européenne, X a dû réagir. Mais au lieu de désactiver le générateur d'images ou de corriger le filtre, l'entreprise a annoncé le 9 janvier 2026 que la génération d'images serait désormais réservée aux abonnés payants .
« La génération et la modification d'images sont actuellement réservées aux abonnés payants. Abonnez-vous pour débloquer ces fonctionnalités. » — Message d'erreur de Grok
Réfléchissez-y. La plateforme a reconnu que l'outil était utilisé pour créer du contenu illégal et abusif (notamment du contenu pédopornographique), et sa solution a consisté à limiter son accès aux seuls abonnés payant 8 $ par mois (ou plus). Au lieu de corriger la faille, elle l'a rendue inaccessible à un public très restreint. Cette décision a conduit certains critiques à accuser X de vendre, de fait, une « licence pour les deepfakes ».
Colère mondiale : le Royaume-Uni et l'UE interviennent
Les gouvernements sont loin d'être satisfaits. La Commission européenne a déjà condamné fermement cette mesure, ses porte-parole déclarant que « tout contenu illégal reste illégal, qu'il soit payant ou non ». L'UE a ordonné à X de conserver toutes les données relatives à Grok en vue d'une éventuelle enquête au titre de la loi sur les services numériques (DSA), qui prévoit des amendes pouvant atteindre 6 % du chiffre d'affaires mondial.
Au Royaume-Uni, le Premier ministre Keir Starmer a qualifié ces images de « honteuses » et de « répugnantes », menaçant explicitement d'engager des poursuites en vertu de la loi sur la sécurité en ligne. Contrairement aux polémiques précédentes, il ne s'agit pas ici de « liberté d'expression », mais de la production d'images à caractère sexuel sans consentement, un crime qui ne bénéficie d'aucune protection légale dans la plupart des juridictions.
Et ensuite ? L'abus comme fonctionnalité
Chez What Then Studio, nous considérons cela comme un tournant tragique. Nous sommes passés des « accidents de l'IA » à la « négligence de l'IA ».
En réservant les capacités chaotiques de Grok aux utilisateurs payants, X a de fait créé un niveau premium pour les personnes mal intentionnées. Le message est clair : vous pouvez enfreindre les règles de la société civile, mais seulement si vous nous aidez à payer les factures du serveur. Le dysfonctionnement n'est plus un bug ; il est devenu le produit.
Références
Cet article fait référence au reportage du New York Times du 9 janvier 2026, ainsi qu'à des données de Bloomberg et du Guardian.
Laissez un commentaire