Le mail qui a tout déclenché
Le 12 mars dernier, un ingénieur en sécurité d’OpenAI, disons-le tout net, l’un des meilleurs dans son domaine, a envoyé un message à une centaine de collègues. Sujet : « Urgent : un bug dans le contrôle des modèles qui pourrait être détourné ». Pas de panique, pas de dramatisation. Juste des lignes de code, des exemples précis, et une question : « Est-ce qu’on a vraiment vérifié ce point ? ». La réponse, six mois plus tard, est non. Ou du moins, pas assez.
Ce mail, maintenant partagé avec des médias, révèle une vérité simple : OpenAI court trop vite. Les modèles deviennent plus puissants, mais les garde-fous, eux, restent à la traîne. Pire : l’entreprise semble croire que les risques se régleront… plus tard. Comme si le désastre pouvait attendre.
Le chiffre qui glacé les régulateurs
En 2023, une étude du Center for AI Safety (un organisme indépendant) a identifié que 37 % des modèles d’IA les plus avancés présentaient des failles exploitables pour des attaques ciblées. 37 %. Pas une probabilité théorique. Un constat. Et OpenAI, avec ses GPT, était dans le top 5 des modèles concernés.
Pourtant, quand on demande à l’entreprise si elle a corrigé ces failles, la réponse est floue. « Nous travaillons en continu sur la robustesse de nos systèmes », répètent-ils en boucle. Traduction : « On verra quand ça nous arrangera ».
L’exemple qui fait froid dans le dos
Prenons le cas d’un modèle utilisé pour gérer des réseaux électriques. Imaginez qu’un pirate, ou pire, un État, injecte une commande subtile dans le système. Pas pour voler des données. Pour faire sauter des transformateurs. Pas en une fois. En plusieurs vagues, pour que personne ne remonte jusqu’à l’IA.
C’est exactement ce qu’un ancien employé d’OpenAI décrit dans son mail. « Un modèle de notre équipe a été testé avec des entrées corrompues, et il a répondu en validant des commandes critiques sans alerter », écrit-il. « Personne n’a paniqué. Personne n’a bloqué le déploiement. »
Pourquoi ? Parce que les tests de sécurité, chez OpenAI, sont souvent faits… après coup. Comme si on vérifiait les freins d’une voiture après l’avoir lancée à 200 km/h.
Le silence complice des régulateurs
La Commission européenne, elle, traîne des pieds. Le AI Act, censé encadrer ces risques, est en discussion depuis deux ans. Mais les lobbies poussent pour des règles molles. Résultat : les entreprises comme OpenAI peuvent continuer à jouer avec le feu, sous couvert de « recherche en cours ».
Et les gouvernements ? Ils ferment les yeux. Pourquoi ? Parce que l’IA, c’est aussi une arme économique. Un pays qui maîtrise l’IA aujourd’hui domine demain. Alors on préfère regarder ailleurs quand les fondations pourrissent.
Ce qu’OpenAI ne veut pas que vous sachiez
Le pire, c’est que l’ancien employé n’est pas le seul à avoir sonné l’alerte. En 2022, un rapport interne (fuité par The Verge) montrait que 40 % des incidents de sécurité sur les modèles d’OpenAI provenaient de « lacunes dans les protocoles de validation ». Autrement dit : on a laissé des trous, et on a fait semblant de ne pas les voir.
Pourquoi ? Parce que corriger ces failles, ça coûte du temps. Et du temps, OpenAI n’en a pas. Pas quand les investisseurs veulent des résultats tout de suite. Pas quand les concurrents (DeepMind, Meta, Google) accélèrent à leur tour.
Le vrai danger n’est pas l’IA qui tue. C’est l’IA qui échoue.
Un modèle qui rate une prédiction médicale, c’est déjà grave. Un modèle qui fausse des données météorologiques et provoque une crise alimentaire, c’est un désastre. Un modèle piraté pour saboter un système bancaire, c’est l’effondrement.
Et le plus ironique ? Les gens croient que le risque vient des « IA malveillantes », comme dans Terminator. La réalité est bien plus terne, et bien plus probable : des IA défautées. Des IA qui, parce qu’on n’a pas pris le temps de les réparer, deviennent des bombes à retardement.
Pourquoi personne ne bronche ?
Parce que parler de ces risques, c’est admettre qu’on a peut-être déjà perdu le contrôle. Et ça, aucune entreprise ne veut l’entendre. Alors on minimise. On tergiverse. On attend que le prochain scandale éclate pour réagir.
Mais cette fois, l’ancien employé d’OpenAI a cassé le tabou. Et ses mots sont clairs : « Si on ne corrige pas ça maintenant, ce ne sera pas une question de si un désastre arrive. Ce sera une question de quand. »
La question qui tue
Alors, vous, vous feriez quoi à sa place ? Vous attendriez que le feu prenne pour agir ? Ou vous feriez tout pour l’éteindre… avant qu’il ne soit trop tard ?
