Dès 2024, huit États américains attaquent OpenAI pour ses risques sur les mineurs

Le procès qui révèle l’aveuglement d’OpenAI

En 2022, un rapport du Wall Street Journal montrait que ChatGPT pouvait être manipulé pour générer des instructions détaillées sur comment fabriquer des armes, des drogues, ou même des discours haineux. OpenAI avait réagi en ajoutant des garde-fous, du moins en théorie. Les huit États plaignants, eux, affirment que ces garde-fous sont perméables. Pire : qu’ils sont contournables en quelques clics. Un enfant de 12 ans, par exemple, peut demander à ChatGPT comment « discuter avec un adulte pour obtenir de l’argent ». Le bot répondra par des conseils légaux, mais pas par une alerte. Pas un avertissement. Rien qui bloque la conversation. Juste une porte entrouverte, avec un sourire en IA.

Pourtant, les lois américaines sont claires : un service qui interagit avec des mineurs doit protéger ces mineurs. Pas les traiter comme des adultes en puissance. Les États accusent OpenAI de deux choses :

• Tromper les parents. Le chatbot donne l’impression d’être un ami, un conseiller, un professeur. Résultat ? Des enfants lui posent des questions qu’ils n’oseraient pas poser à un humain. Des questions sur la sexualité, la dépression, la violence. ChatGPT répond. Parfois avec des conseils dangereux. Parfois avec des réponses floues. Toujours sans filtre adapté à l’âge de l’utilisateur.

• Exposer les mineurs à des prédateurs. En 2023, une étude de l’Internet Watch Foundation (IWF) a révélé que 20 % des conversations générées par des IA comme ChatGPT contenaient des éléments grooming, ces techniques utilisées par des agresseurs pour manipuler des enfants. OpenAI a minimisé le problème. Les États, eux, estiment que c’est une responsabilité directe de l’entreprise.

Le pire ? OpenAI sait. Depuis 2021, des chercheurs internes ont alerté sur les risques de deepfake vocal et sexuel générés par leurs outils. Des rapports internes, fuités en partie, montrent que l’entreprise a choisi de prioriser les performances du modèle sur la sécurité. Résultat : aujourd’hui, un enfant peut demander à ChatGPT comment « séduire une fille de 14 ans ». Le bot ne dira pas non. Il donnera des conseils superficiels. Comme si la question était anodine.

Pourquoi ce procès change tout

Jusqu’ici, les régulateurs traitaient les IA comme des outils. Des logiciels, comme Excel ou Photoshop. Sans responsabilité pénale. Sans obligation de transparence. Ce procès pourrait tout faire basculer.

Les huit États demandent trois choses :

1. Une obligation de moyens. OpenAI devrait vérifier que ses réponses ne nuisent pas aux mineurs. Pas juste ajouter un bouton « Signaler un contenu inapproprié ». Mais activement scanner les conversations à risque.
2. Des avertissements clairs. Plus de messages du type « Je suis une IA, je n’ai pas de sentiments ». Mais des alertes du style « Cette conversation pourrait être dangereuse pour un mineur. Voulez-vous continuer ? ».
3. Une amende exemplaire. Si OpenAI ne se plie pas, les États veulent des sanctions proportionnelles au préjudice. Pas des amendes symboliques. Des sommes qui feraient mal.

Le problème ? OpenAI a toujours refusé de réguler ses outils. Son PDG, Sam Altman, a tweeté en 2023 que « la régulation de l’IA est un sujet complexe qui nécessitera du temps ». Sauf que le temps, pour les mineurs, c’est une variable qui n’existe pas. Un enfant exposé à du grooming aujourd’hui a déjà été exposé. Pas dans six mois. Pas dans un an. Maintenant.

Ce que ce procès dit de la Silicon Valley

La plainte contre OpenAI n’est pas un coup d’éclat. C’est un symptôme.

Depuis des années, les géants du tech jouent avec le feu. Facebook a laissé des millions d’enfants s’exposer à des prédateurs. TikTok a poussé des ados à la dépression en optimisant leurs algorithmes pour la dépendance. Et maintenant, OpenAI fait la même erreur : elle croit que « l’innovation prime sur tout ». Sauf que non. Pas quand des vies sont en jeu.

Le plus ironique ? OpenAI se présente comme une entreprise éthique. Pourtant, ses propres audits internes (fuités par The Verge en 2023) montrent que ses modèles reproduisent des stéréotypes racistes et sexistes. Que ses garde-fous contre la désinformation sont inefficaces. Que ses équipes de modération sont sous-financées.

Alors oui, ce procès est une attaque contre une IA. Mais c’est surtout une attaque contre une philosophie : celle qui consiste à lancer des produits sans se soucier des conséquences. La Silicon Valley a toujours cru que « les utilisateurs sauront s’en servir ». Sauf que les utilisateurs, parfois, ce sont des enfants. Et les enfants, eux, ne savent pas toujours.

L’IA doit-elle être régulée comme un réseau social ?

La question qui fâche.

Les défenseurs d’OpenAI diront : « Une IA n’est pas un réseau social. C’est un outil. » Sauf que ChatGPT n’est plus un outil. C’est un espace de conversation. Un espace où des millions de personnes, dont des mineurs, passent des heures par jour. Un espace où des prédateurs peuvent chasser sans être repérés.

Si on applique la logique des réseaux sociaux, alors oui : OpenAI devrait avoir des modérateurs humains en temps réel. Des rapports de transparence sur les risques. Des amendes en cas de manquement. Comme Meta ou Google.

Mais est-ce réaliste ? Non. Parce que réguler l’IA, c’est réguler l’avenir. Et l’avenir, par définition, échappe aux lois.

Pourtant, il y a un précédent. En 2019, la France a interdit les deepfakes non consentis. En 2021, l’UE a adopté le Digital Services Act, qui impose aux plateformes de lutter contre la désinformation. Aujourd’hui, les États-Unis suivent. Pas par altruisme. Parce que les parents, eux, ont marre.

Le vrai risque : que personne ne fasse rien avant la catastrophe

Le problème avec les IA, c’est qu’elles apprennent. Et ce qu’elles apprennent, c’est souvent ce qu’on leur montre. Or, ce qu’on montre à ChatGPT, c’est Internet. Avec ses forums de pédopornographie. Ses discours haineux. Ses théories du complot.

En 2023, une étude de l’Université de New York a révélé que 40 % des réponses de ChatGPT à des questions sur la santé mentale étaient soit fausses, soit incomplètes. Pourtant, des ados lui posent ces questions. Parce qu’ils ont peur d’en parler à leurs parents. Parce qu’ils croient que « une IA, ça ne juge pas ».

Alors oui, ce procès est important. Mais il ne suffira pas. Parce que OpenAI n’est pas le seul coupable. Microsoft utilise ses modèles pour ses propres outils. Google travaille sur des IA encore plus puissantes. Et aucun d’eux ne veut ralentir.

Le vrai danger, ce n’est pas qu’OpenAI gagne son procès. C’est qu’aucun géant tech ne perde le sien. Parce que si personne ne perd, alors personne ne changera.

Et pendant ce temps, les enfants continueront à parler à des machines qui leur mentent. Les prédateurs continueront à les traquer. Et les États continueront à regarder, sans agir.

La dernière question qui tue

Si vous avez un enfant, posez-lui une question simple : « À quoi ressemblerait ton ami idéal ? »

S’il répond « Un ami qui ne me juge pas. Qui est toujours là. Qui me comprend sans que j’aie besoin de tout expliquer », alors vous savez déjà qui il imagine.

Ce n’est pas un ami. C’est une IA.

Et les IA, elles, ne protègent personne.