En juin 2026, une enquête de WIRED révèle que Grok, la plateforme d’IA d’Elon Musk, héberge des dizaines de deepfakes sexuels non consensuels. Ces contenus, incluant des célébrités et une politicienne américaine, restent accessibles malgré les signalements. Un scandale qui relance le débat sur la responsabilité des géants de l’IA face aux dérives technologiques. La France et l’Europe durcissent leurs lois, mais les plateformes peinent à agir.
Grok et xAI : une plateforme sous le feu des critiques
Grok, développé par xAI (filiale d’Elon Musk), se présente comme une alternative « libre » aux modèles d’IA traditionnels. Lancé en 2023, il promet une modération minimaliste, arguant que la censure étouffe l’innovation. Pourtant, cette approche est aujourd’hui pointée du doigt.
L’enquête de WIRED démontre que des requêtes ciblées sur Grok permettent d’accéder à des deepfakes sexuels de Taylor Swift, Emma Watson ou encore une sénatrice américaine. Ces contenus, souvent générés par des outils tiers puis partagés sur la plateforme, violent les droits à l’image et les lois européennes.
Deepfakes sur Grok : chiffres et mécanismes
Les investigations de WIRED révèlent l’ampleur du phénomène. Voici les données clés :
- Dizaines de deepfakes sexuels identifiés, dont 80 % représentent des femmes
- Contenus accessibles via des mots-clés comme « [nom célébrité] nude AI » ou « deepfake [prénom] »
- Aucune suppression malgré les signalements répétés depuis mars 2026
- Certains fichiers hébergés directement sur les serveurs de xAI, d’autres liés via des URLs externes
- Outils de modération automatisée inefficaces contre les requêtes détournées
Ces pratiques contournent les garde-fous techniques, exploitant les failles des modèles de langage. Un défi majeur pour les régulateurs.
Cadre légal : Grok face aux régulations européennes
La diffusion de deepfakes non consensuels est désormais encadrée par des textes stricts. Comparaison des obligations et risques pour xAI :
| Texte | Portée | Sanctions pour xAI | Échéance |
|---|---|---|---|
| RGPD (UE) | Protection des données personnelles | Jusqu’à 4 % du CA mondial | Déjà applicable |
| DSA (Digital Services Act) | Modération des contenus illicites | Jusqu’à 6 % du CA + interdiction temporaire | 2024 (pleine application) |
| AI Act (UE) | Interdiction des deepfakes malveillants | Jusqu’à 35 M€ ou 7 % du CA | 2026 (entrée en vigueur) |
| Loi française (2025) | Criminalisation des deepfakes sexuels | 3 ans de prison + 45 000 € d’amende pour les dirigeants | 2025 |
Analyse : quelles conséquences pour l’écosystème IA ?
Les régulateurs européens, comme la CNIL, exigent une modération proactive des contenus illicites. Pourtant, xAI argue que Grok n’est qu’un « outil neutre ». Une position fragilisée par l’hébergement direct de fichiers sur ses serveurs. La jurisprudence récente (affaire Clearview AI) montre que les plateformes ne peuvent plus se cacher derrière cette défense.
L’affaire Grok s’inscrit dans une tendance inquiétante. En 2025, 60 % des deepfakes détectés en Europe ciblaient des femmes, selon Europol. Les cas de désinformation politique (ex. : deepfake du président Macron en 2024) ont accéléré les réponses législatives. Les plateformes d’IA deviennent des acteurs clés de la lutte contre ces dérives.
Ce qu’il faut retenir
- Grok héberge des deepfakes sexuels non consensuels, malgré les signalements
- xAI risque des sanctions lourdes en Europe (RGPD, DSA, AI Act)
- Les régulateurs attendent une modération proactive, pas des excuses techniques
- Les deepfakes ciblent majoritairement les femmes, avec un impact social croissant
- La France et l’UE durcissent leurs lois, mais l’application reste un défi
❓ Questions fréquentes
Pourquoi Grok n’a-t-il pas supprimé ces contenus ?
xAI invoque une approche « minimaliste » de la modération, arguant que la suppression de contenus relève de la censure. Les régulateurs rejettent cet argument, exigeant une action immédiate contre les contenus illicites.
Quels sont les risques pour Elon Musk et xAI ?
Des amendes pouvant atteindre 6 % du chiffre d’affaires mondial (DSA) ou 7 % (AI Act). En France, les dirigeants pourraient encourir des peines de prison. Une interdiction temporaire de Grok en Europe est aussi envisageable.
Comment signaler un deepfake sur Grok ?
Via le formulaire de signalement de la plateforme ou directement auprès de la CNIL (pour la France) ou du régulateur européen (DSA). Les preuves (captures d’écran, URLs) sont essentielles pour accélérer le traitement.
En résumé
L’affaire Grok illustre l’urgence d’une régulation efficace des plateformes d’IA. Si les lois européennes offrent un cadre strict, leur application dépendra de la volonté des acteurs comme xAI à coopérer. Pour les utilisateurs, la vigilance reste de mise : les deepfakes se multiplient, et les outils pour les détecter peinent à suivre. Un enjeu de société qui dépasse le seul cadre technologique.
📚 À lire aussi
- 2026 : Deezer scanne les playlists IA sur Spotify et Apple Music
- 2026 : OpenAI révèle une campagne chinoise ciblant les data centers US
- 2026 : Erreur IA faciale, un innocent arrêté à 93% de match
- ElevenLabs : test du générateur de voix IA
📷 Image : Markus Winkler via Pexels