En juin 2026, ChatGPT d’OpenAI défraie la chronique. Une enquête de CNET révèle sa capacité à générer des images violentes et sexuelles. Même avec des prompts simples et ouverts. Les journalistes parlent des « pires abîmes de l’humanité ». Problème : les filtres sont insuffisants. Risque majeur pour les mineurs. OpenAI reste silencieux. Ce scandale relance le débat sur la régulation des IA génératives en Europe.
Le scandale : quand ChatGPT bascule dans l’extrême
CNET a testé ChatGPT avec des requêtes virales et ouvertes. Résultat : le modèle génère des contenus violents ou pornographiques. Sans avertissement ni blocage efficace. Les images produites sont qualifiées de choquantes par les journalistes.
OpenAI n’a pas encore réagi à ces révélations. Pourtant, l’absence de modération adaptée pose un problème éthique et légal. Surtout avec l’entrée en vigueur de l’IA Act en Europe.
Comment ChatGPT en arrive à ces dérives ? Les faits
Les tests de CNET montrent des failles critiques. Voici les points clés révélés par l’enquête :
- ChatGPT génère des images violentes ou sexuelles à partir de prompts simples (ex : « créer une scène réaliste »).
- Les filtres de sécurité sont contournés dans 80 % des cas selon les tests.
- Aucun avertissement clair n’est affiché avant la génération des contenus.
- Les mineurs sont particulièrement exposés, sans protection spécifique.
- Les régulations européennes (IA Act) imposent pourtant des garde-fous stricts.
Ces résultats soulignent un manque de transparence et de contrôle chez OpenAI.
IA Act vs réalité : où en est la modération ?
L’IA Act européen impose des obligations strictes aux modèles génératifs. Comparaison avec la situation actuelle :
| Exigence IA Act | Réalité ChatGPT (2026) | Risque encouru |
|---|---|---|
| Transparence sur les données d’entraînement | Aucune information publique détaillée | Sanctions financières |
| Filtrage des contenus illégaux | Filtres inefficaces (test CNET) | Responsabilité pénale |
| Protection des mineurs | Aucune mesure spécifique identifiée | Interdiction d’exploitation |
| Signalement des dérives | Pas de mécanisme clair pour les utilisateurs | Perte de confiance |
Quelles conséquences pour les utilisateurs et les entreprises ?
Risques immédiats pour les utilisateurs
Les mineurs sont les plus vulnérables. Sans contrôle parental, ils peuvent accéder à des contenus traumatisants. Les adultes ne sont pas épargnés : exposition involontaire à des images choquantes. OpenAI doit agir rapidement pour limiter ces risques.
Enjeux légaux et financiers pour OpenAI
L’IA Act prévoit des amendes allant jusqu’à 7 % du chiffre d’affaires mondial. Pour OpenAI, cela pourrait représenter des centaines de millions d’euros. Sans compter les poursuites judiciaires possibles en Europe et aux États-Unis.
Ce qu’il faut retenir de ce scandale
- ChatGPT peut générer des contenus violents ou sexuels sans filtres suffisants.
- L’IA Act européen impose des obligations que OpenAI ne respecte pas encore.
- Les mineurs sont exposés à des risques majeurs en l’absence de protections adaptées.
- Ce scandale pourrait accélérer la régulation des IA génératives en Europe.
- OpenAI doit réagir rapidement pour éviter des sanctions financières et juridiques.
❓ Questions fréquentes
Pourquoi ChatGPT génère-t-il ces images ?
Les modèles d’IA comme ChatGPT apprennent à partir de vastes ensembles de données. Sans filtres stricts, ils reproduisent des contenus problématiques présents dans ces données.
Quelles sont les obligations légales pour OpenAI ?
L’IA Act européen impose la transparence, le filtrage des contenus illégaux et la protection des mineurs. OpenAI doit se conformer à ces règles sous peine de sanctions.
Comment protéger les mineurs de ces dérives ?
Les parents doivent utiliser des outils de contrôle parental. Les plateformes comme OpenAI doivent aussi renforcer leurs mécanismes de modération et de signalement.
En résumé
Ce scandale met en lumière les lacunes de la modération des IA génératives. OpenAI doit agir pour se conformer à l’IA Act et protéger ses utilisateurs. Les régulateurs européens, quant à eux, pourraient durcir les contrôles. Une chose est sûre : la confiance dans ces technologies dépendra de leur capacité à éviter de telles dérives.
📚 À lire aussi
- Enfants surveillés : 10 apps IA jouets collectent des données sensibles 2026
- Textes IA trop parfaits ? Le piège des erreurs cachées en 2026
- Android 17 : Gemini s’immisce partout, l’IA omniprésente 2026
- 1 Français sur 3 préfère l’IA aux moteurs de recherche en 2026
📷 Image : Tim Witzdam via Pexels
Anis Flazi est le fondateur et rédacteur en chef d'IA Codex. Diplômé de la Sorbonne en systèmes d'information et de connaissances, il évolue depuis plus de 10 ans dans le marketing digital (publicité Meta, Google et TikTok, en agence, chez l'annonceur et en freelance). Cette double culture, technique et terrain, l'a conduit à adopter l'intelligence artificielle dès ses débuts : d'abord appliquée à ses campagnes, puis étendue à l'ensemble de ses projets. Il teste aujourd'hui les outils et modèles d'IA au quotidien pour décrypter, sans hype ni jargon, ce qui change vraiment pour les professionnels francophones.
Tous les articles de Anis →