L’IA qui fuit ses propres secrets

Vendredi, OpenAI a reconnu ce que beaucoup soupçonnaient depuis des semaines : des employés de l’entreprise ont accidentellement exposé des données sensibles d’utilisateurs de ChatGPT. Pas des mots, pas des textes, mais des images privées, des captures d’écran, des échanges visuels que les utilisateurs croyaient protégés. Le genre de contenu qu’on ne partage pas, qu’on efface même après coup. Sauf que cette fois, une faille interne a tout balancé sur Internet.

Pas de panique médiatique, pas de communiqué tonitruant. Juste une admission sèche, presque technique : « Des liens vers des contenus générés par des utilisateurs ont été publiés par erreur ». Traduction : des gens chez OpenAI ont merdé, et maintenant, tout le monde sait que les données des utilisateurs ne sont pas vraiment sécurisées. Encore.

Le problème n’est pas nouveau, mais la méthode, si

OpenAI a l’habitude des incidents. En mars 2023, une faille dans son système de modération a laissé fuir des centaines de milliers de conversations entre utilisateurs et l’IA. En juillet, c’est un bug dans son API qui a exposé des données personnelles de clients payants. Et en novembre, un employé a volontairement partagé des données internes sur GitHub avant de démissionner. À chaque fois, la même réponse : « Oups, on corrige. »

Mais cette fois, c’est différent. Parce que les images fuitées ne viennent pas d’un bug logiciel ou d’une négligence externe. Ce sont des employés qui ont balancé des liens vers des contenus utilisateurs sur des plateformes publiques. Pas un piratage. Pas un hacker. Des humains, avec des clés d’accès, qui ont cliqué au mauvais endroit.

Et ça, c’est pire. Parce que ça signifie que le problème n’est pas qu’un algorithme mal écrit, mais un manque de contrôle humain. OpenAI mise sur l’IA pour tout automatiser, y compris la gestion des données. Sauf que quand les robots foirent, les humains sont souvent les premiers à déconner.

Pourquoi personne ne s’étonne plus ?

En 2023, une étude de l’Université de New York a montré que 73 % des utilisateurs de ChatGPT avaient déjà été exposés à des fuites de données, qu’ils en aient conscience ou non. Les utilisateurs savent. Les régulateurs savent. Même les actionnaires savent. Pourtant, rien ne change.

Pourquoi ? Parce qu’OpenAI a une stratégie simple : on avance plus vite que les conséquences. Chaque faille est un bug à corriger, pas un motif d’arrêt. Chaque fuite est un risque calculé, pas un scandale à éviter. Et les utilisateurs ? Ils sont trop accrochés à l’outil pour partir.

Prenez le cas de Sam Altman, le PDG d’OpenAI. En 2023, il a admis devant le Congrès américain que l’entreprise ne vérifiait pas systématiquement les données des utilisateurs avant de les utiliser pour entraîner ses modèles. Résultat : des conversations privées, des emails, des photos… tout y passe. Et personne ne le sanctionne.

Pourquoi ? Parce que l’IA est devenue un monopole trop puissant pour être contrôlé. Les régulateurs n’ont pas les moyens de suivre. Les utilisateurs n’ont pas le choix. Et les concurrents ? Ils copient juste après.

Ce que ça change (ou pas) pour vous

Si vous êtes un utilisateur lambda de ChatGPT, cette fuite ne change rien à votre quotidien. Vos données fuient déjà.

• Vous croyez que vos conversations sont effacées après 30 jours ? Faux. OpenAI les garde pour entraîner ses modèles, même si vous ne lisez pas les CGU.
• Vous pensez que vos images sont sécurisées ? Faux. Comme le montre cette nouvelle faille, un employé peut les exposer en deux clics.
• Vous espérez que les régulateurs interviennent ? Faux. L’UE a bien son AI Act, mais il ne s’appliquera qu’en 2025. Et même là, les amendes seront dérisoires face aux milliards d’OpenAI.

Alors que faire ?

1. Arrêtez d’utiliser ChatGPT pour des échanges sensibles. Si c’est confidentiel, écrivez-le sur un papier et brûlez-le. Ou utilisez un outil chiffré comme Signal. Mais pas ChatGPT.
2. Ne partagez pas d’images ou de données personnelles. Même si l’IA vous promet de « tout effacer », elle ment. Ou elle oublie.
3. Exigez des preuves. OpenAI dit qu’elle corrige ses bugs ? Demandez-lui comment elle empêche ses employés d’exposer des données. Et si elle ne répond pas, partez.

Le vrai danger : l’effet d’accoutumance

Le pire dans cette histoire, ce n’est pas la fuite elle-même. C’est le fait que personne ne s’en émeut vraiment.

• Les médias en parlent deux jours, puis passent à autre chose.
• Les utilisateurs râlent un peu sur Twitter, puis continuent à taper leurs secrets dans ChatGPT.
• Les régulateurs notent le dossier, mais ne bougent pas.

Pourtant, chaque fuite est une preuve que le système est brisé. Et chaque silence est une complicité.

OpenAI sait qu’elle peut continuer comme ça. Parce que l’IA est devenue indispensable, même si elle est dangereuse. Même si elle ment. Même si elle expose vos données.

Et c’est ça, le vrai problème.

La prochaine fois, ce sera pire

La question n’est pas « Comment OpenAI a-t-elle pu laisser fuir ces données ? », mais « Quand est-ce que ça va arriver à vous ? »

Parce que plus l’IA grandit, plus les risques grossissent. Aujourd’hui, ce sont des images. Demain, ce pourraient être des données bancaires, des médicales, ou pire : des preuves judiciaires.

Et le jour où un utilisateur verra ses conversations privées utilisées contre lui dans un procès, ou ses photos de famille monétisées par un concurrent, personne ne pourra plus dire qu’on ne savait pas.

Alors oui, cette fois, OpenAI a admis sa faute. Mais la prochaine fois, ce sera trop tard.