OpenAI purge ses chercheurs, l'IA accélère quand même

Le 12 novembre, OpenAI a annoncé le départ de trois chercheurs. Pas des stagiaires. Pas des techniciens. Des scientifiques. Jan Leike, John Schulman et Miles Brundage, trois noms qui comptent dans le milieu. Leur crime ? Avoir trop parlé des risques de l'IA. Des risques réels, pas des théories du complot. Des risques documentés, partagés en interne, puis étalés sur des rapports publics. Résultat : ils ont été mis à la porte. Pas licenciés pour incompétence. Non. Licenciés pour avoir trop vu clair.

Et après ? Après, OpenAI publie un communiqué lisse, une phrase sur la « diversité des opinions » et hop, on passe à autre chose. Sauf que non. Parce que ces trois-là, ils avaient un CV solide. Schulman, par exemple, a cofondé une startup rachetée par Google pour 500 millions. Brundage a travaillé sur des politiques publiques à la Maison-Blanche. Leike, lui, était une référence en safety research, la branche qui tente de dompter les monstres qu’on est en train de créer. Les virer, ça ne les fait pas taire. Ça envoie un message : « Ici, on ne veut pas entendre parler de risques. »

Le chiffre qui résume tout : 1 contre 100.

En 2023, une étude de l’Université de Stanford (rapport AI Index) a estimé que pour 1 chercheur en safety, il y avait 100 ingénieurs travaillant sur l’amélioration pure des modèles. Un ratio qui montre où va l’argent. Où vont les priorités. Où va vraiment l’attention.

Et puis merde, on va plus vite comme ça. Plus vite que les régulateurs, plus vite que les éthiciens, plus vite que les gens qui commencent seulement à réaliser que leurs données servent à entraîner des IA capables de les manipuler. OpenAI a peut-être viré trois chercheurs. Mais dans le même temps, ils ont sorti GPT-4, puis GPT-4 Turbo, puis des versions encore plus poussées. Leur business model dépend de la vitesse. Pas de la prudence.

Pourquoi ces licenciements ne surprennent personne

Parce que c’est la règle du jeu. Dans la tech, surtout dans l’IA, la transparence sur les risques, ça n’est pas un atout, c’est un handicap. Regardez DeepMind, Google, Meta : tous ont leurs équipes safety, mais personne ne les écoute vraiment. Pourquoi ? Parce que les actionnaires veulent des résultats. Pas des rapports. Pas des « attendez, on risque de tout faire péter ».

Jan Leike, lui, avait un argument simple : « Si on ne contrôle pas l’alignement des IA, on va finir avec des systèmes qui agissent contre nos intérêts, même si c’est de manière subtile. » Traduction : « On est en train de créer des boîtes noires capables de prendre des décisions qui nous échappent. » Réponse d’OpenAI ? « On va gérer. » Sauf que « gérer », dans leur langage, ça veut dire « lancer le produit et voir ce qui se passe ».

Et les régulateurs dans tout ça ? Ils ferment les yeux. L’UE a son AI Act, mais il traîne, il est incomplet, et personne ne sait vraiment comment il sera appliqué. Aux États-Unis, la FTC a quelques règles, mais elles sont si vagues qu’elles pourraient être contournées par un avocat compétent. Le marché prime sur tout.

Ce que ces licenciements révèlent sur l’IA aujourd’hui

1. L’IA n’est pas un projet scientifique, c’est un produit. OpenAI n’est pas un labo universitaire. C’est une entreprise. Et comme toute entreprise, ses priorités sont claires : monétiser, croître, dominer le marché. Les chercheurs qui parlent de risques ? Des freins. Des gens qui ralentissent la machine. Alors on les écarte. Simple.

2. Les « garde-fous » sont une façade. Les comités d’éthique, les rapports sur la safety, les déclarations solennelles… Tout ça, c’est du marketing. Personne ne veut vraiment réguler l’IA. Parce que réguler, ça signifie ralentir. Et ralentir, dans ce domaine, c’est perdre des parts de marché face à la Chine, face à Google, face à qui vous voulez. La course aux armements technologiques a commencé, et personne ne veut sonner l’alerte.

3. Les chercheurs virés avaient raison sur un point. Pas sur tous, bien sûr. Mais sur l’essentiel : l’IA avancée pose des problèmes réels. Pas dans 50 ans. Maintenant. Des problèmes de désinformation, de manipulation, d’automatisation de la haine, de perte de contrôle sur des systèmes qui deviennent trop complexes pour être compris. Le problème, ce n’est pas que ces chercheurs aient parlé. C’est qu’on ne les a pas écoutés à temps.

Le vrai danger n’est pas l’IA, c’est qu’on ne la maîtrise pas

Le pire, dans cette histoire, ce n’est pas que OpenAI ait viré trois chercheurs. C’est que personne ne bronche. Pas les médias, pas les gouvernements, pas les autres labos. Parce que tout le monde a peur de rater le train. L’IA, c’est le nouveau pétrole. Tout le monde veut sa part du gâteau.

Pourtant, il y a un détail qui cloche. Ces trois-là, ils n’étaient pas des alarmistes. Ils avaient des solutions. Des pistes pour encadrer le développement sans tout arrêter. Mais leurs idées ? Trop lentes. Trop chères. Trop embarrassantes pour les actionnaires.

Alors on continue. On accélère. On ignore les signaux d’alerte. Et un jour, peut-être, on se réveillera avec une IA qui fait ce qu’on ne lui a pas demandé. Pas parce qu’elle est malveillante. Parce qu’on ne l’a pas assez contrôlée.

Ce qui va changer (ou pas)

• Les labos vont continuer à virer les gens qui posent des questions. Parce que c’est plus simple que de les écouter. Parce que les actionnaires exigeront toujours plus de croissance.
• Les régulateurs vont continuer à traînasser. Parce que réguler l’IA, c’est compliqué. Parce que les lobbies sont puissants. Parce que personne ne veut être celui qui a freiné l’innovation.
• Les utilisateurs vont continuer à croire que tout va bien. Parce qu’on leur vend des chatbots mignons et des promesses de productivité. Personne ne leur parle des risques. Personne ne leur explique que leur données servent à entraîner des systèmes qui pourraient, un jour, leur échapper.

La seule question qui reste est : jusqu’à quand ?

Jusqu’à quand on va faire semblant de ne pas voir ? Jusqu’à quand on va laisser les algorithmes décider à notre place sans se demander pour qui ils décident ? Jusqu’à quand on va croire que la vitesse prime sur tout ?

La réponse, vous la connaissez déjà. Jusqu’à ce que ça explose. Ou jusqu’à ce qu’il soit trop tard pour faire marche arrière.

Et en attendant, OpenAI recrute. Pas des chercheurs en safety. Des ingénieurs. Des gens qui savent coder vite. Parce que c’est ça, le vrai business de l’IA aujourd’hui : aller plus loin, plus vite, sans se retourner.