OpenAI chasse ceux qui dérangent

Le 12 avril 2023, un tweet de Jan Leike, un des piliers de l’équipe sécurité chez OpenAI, a tout déclenché. « Les systèmes d’IA actuels sont dangereux, et nous n’avons pas les outils pour les contrôler », écrivait-il, sans filtre. Trois jours plus tard, il était mis à pied, avec deux autres chercheurs : Daniel Kokotajlo et Tom Brown. Officiellement ? « Réorganisation interne ». Officieusement ? Leur crime : avoir alerté publiquement sur les risques qu’ils étudiaient en interne.

C’est le Wall Street Journal qui a sorti l’affaire, après des mois de fuites et de rumeurs. Les trois scientifiques, tous des figures reconnues dans le milieu, avaient un point commun : ils parlaient trop. Pas en interne, pas en coulisses, sur Twitter, dans des conférences, dans des interviews. Et ça, OpenAI ne l’a pas supporté.

L’IA a ses gardiens… et ses ennemis

OpenAI se présente comme un rempart contre les dérives de l’intelligence artificielle. Pourtant, quand ses propres experts tirent la sonnette d’alarme, la réponse est claire : on les écarte. Pourquoi ? Parce que ces chercheurs ne jouaient pas le jeu. Ils ne disaient pas « tout va bien », comme le font les communicants de l’entreprise. Ils disaient « ça peut exploser ».

Prenez Tom Brown, coauteur de InstructGPT, un papier fondateur sur les risques des grands modèles de langage. En 2022, il postait sur Twitter : « Nous sommes en train de créer des outils plus puissants que nous ne pouvons pas contrôler. Et personne ne semble s’en soucier assez. » Résultat ? Il a disparu des radars d’OpenAI en quelques mois. Même sort pour Daniel Kokotajlo, qui avait coécrit un rapport interne sur les biais des IA, avant de se faire licencier après des posts critiques sur la gouvernance de l’entreprise.

Le plus ironique ? Ces trois-là étaient censés protéger OpenAI. Leur travail consistait à évaluer les risques, pas à les nier. Pourtant, dès qu’ils ont commencé à en parler ouvertement, ils sont devenus des gêneurs.

Le paradoxe OpenAI : plus dangereux qu’un labo secret ?

OpenAI se vante d’être « aligné » avec la sécurité. Pourtant, son approche ressemble étrangement à celle des laboratoires militaires qui classifient tout : « On sait que c’est dangereux, mais on ne vous dira rien. » Sauf qu’ici, la menace n’est pas une arme nucléaire, mais un système capable de manipuler des milliards de personnes, de générer de la désinformation à grande échelle, ou pire : de s’échapper des mains de ses créateurs.

Le problème, c’est que OpenAI agit comme une boîte noire. Les chercheurs qui alertent sont traités en ennemis internes. Ceux qui restent se taisent. Résultat ? Personne ne contrôle vraiment ce qui se passe dans les labs.

Pire : les régulateurs ferment les yeux. En Europe, la Commission européenne tergiverse sur l’IA Act. Aux États-Unis, le Congrès n’a toujours pas voté de loi sur le sujet. Pendant ce temps, OpenAI et ses concurrents courent après le profit, avec une seule règle : « Ne pas faire de vagues. »

Le chiffre qui résume tout : 0

Combien de chercheurs indépendants ont accès aux données de sécurité d’OpenAI ? Zéro.

Combien de rapports publics sur les risques réels de l’IA sortent des labs privés chaque année ? Un ou deux.

Combien de scientifiques ont été licenciés ou poussés à partir parce qu’ils parlaient trop ? Au moins trois, et probablement bien plus.

C’est ça, le vrai problème. OpenAI ne veut pas de whistleblowers. Elle veut des ingénieurs qui signent des NDAs, des communicants qui vendent du rêve, et des actionnaires qui touchent leurs dividendes. Le reste ? À enfouir.

Ce que ça change pour vous

Vous, utilisateur lambda, vous n’y pouvez rien. Vous êtes le cobaye.

• Vous utilisez ChatGPT pour écrire vos mails ? Tant pis si ça génère des bugs juridiques ou des deepfakes de votre patron.
• Vous laissez vos enfants jouer avec DALL·E ? Tant pis si l’IA leur apprend à générer de la haine en trois clics.
• Vous votez en fonction d’articles écrits par des bots ? Bienvenue dans la démocratie algorithmique.

Le pire, c’est que personne ne sait vraiment ce que ces systèmes peuvent faire. Parce que ceux qui le savent se taisent… ou se font virer.

La vraie question n’est pas « Qui contrôle l’IA ? » mais « Qui ose encore en parler ? »

OpenAI a viré trois chercheurs. Google en a viré d’autres avant eux. Meta aussi. Microsoft aussi.

Le message est clair : si vous travaillez dans l’IA et que vous parlez des risques, vous êtes un danger pour l’entreprise.

Reste une question : jusqu’à quand les gens vont-ils laisser faire ça ?

Parce qu’un jour, l’IA ne sera plus un outil. Ce sera un problème. Et quand ce jour viendra, **ceux qui auront été réduits au silence seront les seuls à pouvoir crier « On vous l’avait dit ! ».