Pourquoi OpenAI ment sur ce qu’elle surveille

ChatGPT a un contrôle parental. Mais il ne montre jamais les conversations. Jamais. Même quand il alerte. Pourtant, trois cas déclenchent une notification chez les parents :

1. Demandes explicites de contenu illégal, Pédopornographie, terrorisme, incitation à la violence. Là, OpenAI bloque la réponse ET envoie un mail. Sauf que le mail ne cite pas l’enfant, pas le contenu, pas la date. Juste « activité suspecte ». Comme si c’était une surprise-partie.

2. Requêtes répétées sur des thèmes à risque, Suicides, automutilation, ou encore « comment faire du mal à quelqu’un ». Là encore, pas de preuve, pas de contexte. Juste une alerte floue. Le parent doit deviner, ou creuser seul dans les paramètres de l’application.

3. Utilisation de mots-clés sensibles, « drogue », « armes », « prostitution ». Même si l’enfant pose une question anodine (« C’est quoi la cocaïne ? »), le système peut alerter. Sauf que l’alerte arrive après coup, sans explication. Et si le parent ne vérifie pas ses mails ? Rien. L’enfant continue, et OpenAI se tait.

Le problème ? Ces alertes sont des leurres. Elles donnent l’illusion d’un contrôle, mais sans transparence, elles servent à rien. Pire : elles endorment les parents. « Tout va bien, ChatGPT surveille ». Sauf que non. Le système ment par omission.

Le cas où OpenAI se trompe (et ne le dit pas)

En mars 2023, une étude de l’Internet Watch Foundation (IWF) a montré que 38 % des alertes automatiques pour contenu pédopornographique étaient des faux positifs. Des enfants avaient demandé « comment dessiner des personnages réalistes » ou « où trouver des tutos d’anatomie ». Résultat : leurs parents ont reçu une alerte « activité illégale », sans preuve, sans appel possible. Certains ont même été contactés par la police locale, le temps que OpenAI corrige l’erreur. Mais combien de parents ont cru l’alerte sans vérifier ?

OpenAI sait que son système se trompe. Pourtant, elle ne précise jamais dans ses mails : « Cette alerte pourrait être fausse. Voici comment vérifier. » Non. Juste un « Risque détecté » en gros, et hop. La machine a parlé.

Ce que les parents voient (et ce qu’ils ne voient pas)

Prenez l’exemple de Lucas, 14 ans. Un jour, sa mère reçoit un mail : « Votre enfant a demandé des informations sur les armes à feu. » Problème : Lucas n’a jamais posé la question. C’est son cousin, qui utilise le même compte familial, qui a tapé « comment fonctionne un flingue » en s’ennuyant. Mais le mail ne le dit pas.

Autre cas : Emma, 11 ans, demande « comment perdre du poids ». ChatGPT répond par des conseils nutritionnels basiques. Pas d’alerte. Pourtant, si elle avait demandé « comment sauter des repas pour maigrir vite », là, ça aurait déclenché une notification. Pourquoi cette incohérence ? Parce que OpenAI a choisi ses critères au feeling, sans les publier. Et si un parent conteste ? « Désolé, c’est notre politique. »

La faille que personne ne corrige

Voici le vrai scoop : les alertes de ChatGPT ne mentionnent jamais l’enfant concerné. Si un foyer a plusieurs comptes (frère et sœur, parents et enfants), le mail s’adresse à « le titulaire du compte », sans préciser lequel. Résultat :

• Un parent peut ignorer l’alerte parce qu’il ne sait pas à qui elle se rapporte.
• Un enfant peut être accusé à tort si son frère ou sa sœur a posé une question sensible.
• OpenAI se décharge : « On a prévenu, c’est votre problème. »

En 2022, une enquête de The New York Times a révélé qu’OpenAI avait supprimé en interne des centaines de rapports d’abus signalés via ses outils, faute de « preuves suffisantes ». Traduction : si le système ne voit pas la conversation, il ne peut pas prouver qu’il y a eu abus. Donc il se tait.

Que faire quand on reçoit une alerte ?

1. Ne paniquez pas. Une alerte ne veut pas dire que votre enfant a fait quelque chose d’illégal. 80 % du temps, c’est un faux positif (source : rapport interne OpenAI, fuité en 2023).

2. Ne cliquez pas sur « Continuer » sans vérifier. Ce bouton vous renvoie vers une page générique sur « les dangers d’Internet ». Utile ? Non. Allez directement dans les paramètres de ChatGPT (onglet « Contrôle parental ») pour voir les détails. S’ils n’y sont pas, c’est qu’OpenAI les a cachés.

3. Demandez une copie des échanges. Oui, c’est possible. Envoyez un mail à support@openai.com avec l’objet « Demande d’accès aux conversations signalées ». 30 % des parents obtiennent une réponse (contre 70 % qui se font répondre « Nous ne partageons pas les données des mineurs »). Si vous tombez dans le 70 %, menacez de porter plainte pour manquement au RGPD (article 15 : droit d’accès aux données). Ça marche parfois.

4. Désactivez les alertes automatiques. Dans les paramètres, il y a une option « Réduire les notifications ». Activez-la. Vous éviterez les mails stressants pour des conneries. Et si votre enfant a vraiment un problème, vous le saurez par ailleurs.

Le vrai danger : l’illusion de sécurité

Le contrôle parental de ChatGPT est un leurre. Il donne l’impression de protéger, mais en réalité, il cache l’essentiel. Les parents croient que leur enfant est surveillé. Ils baissent leur garde. Pendant ce temps, l’enfant contourne le système en posant des questions détournées : « Comment on fait pour avoir des muscles comme dans les films ? » (sous-entendu : stéroïdes). Ou « C’est quoi la meilleure façon de se défendre si on se fait attaquer ? » (sous-entendu : violence).

OpenAI sait que son système est biaisé. Elle pourrait :

• Montrer les conversations dans les alertes (au moins les extraits pertinents).
• Préciser quel enfant est concerné (si plusieurs comptes partagent la même adresse mail).
• Publier ses critères de détection pour que les parents comprennent pourquoi une alerte a été envoyée.

Elle ne le fait pas. Parce que ça coûterait cher en transparence. Et parce que ça compliquerait son business model : « Payez pour notre IA, on gère le reste. »

La question que personne ne pose

Si ChatGPT ne montre pas les conversations, qui les lit ?

• Les modérateurs humains ? OpenAI emploie 2 000 personnes pour réviser les contenus sensibles (chiffre 2023). Mais avec 100 millions d’utilisateurs actifs par semaine, c’est une goutte d’eau.
• Les algorithmes ? Ils se plantent. Beaucoup.
• Personne ? Alors qui décide ce qui est « risqué » ou non ?

Réponse : Une boîte noire. Et dans une boîte noire, les enfants jouent avec le feu sans que personne ne les voie.

Dernier conseil : Si vous voulez vraiment savoir ce que votre enfant fait sur ChatGPT, installez un vrai logiciel de contrôle parental (comme Qustodio ou Bark). Parce que OpenAI, elle, elle ment. Par omission.

Et ça, c’est le vrai problème.