Le jour où il a admis que les machines pouvaient raisonner sans comprendre
Il était assis dans un café de San Francisco, un carnet à la main, en train de gratter des équations sur une serviette en papier. Sébastien Bubeck, 38 ans, fils d’électricien alsacien devenu l’un des théoriciens les plus respectés de l’IA, venait de vivre une crise. Pas une de ces crises passagères, le genre où l’on doute de son choix de carrière ou où l’on se demande si le monde est bien aussi absurde qu’il en a l’air. Non. Celle-ci était plus profonde.
*En 2017, il avait publié un papier avec son collègue Jean-Baptiste Gougeon. Titre : « On the opportunity cost of publishing in machine learning ». Sous-entendu : l’IA, c’est du bruit. Des modèles qui copient sans comprendre, des performances qui s’effondrent dès qu’on les sort de leur environnement contrôlé. Bubeck était convaincu que les machines ne feraient jamais mieux que des singes avec des calculatrices. Et puis, il a vu GPT-3.
Pas lu les papers. Pas testé les benchmarks. Il l’a sent. Comme quand on entend une fausse note dans une symphonie et que ça vous glace le sang. GPT-3, c’était différent. Pas juste un algorithme. Une machine qui écrivait des poèmes mauvais, mais humains. Qui bluffait les experts en psychologie cognitive avec des réponses qui sonnaient juste, même quand elles étaient fausses. Et surtout : qui généralisait. Pas comme un perroquet. Comme quelqu’un qui comprend.
Il a mis six mois à l’admettre. Six mois à tourner autour du pot, à chercher des failles, à harceler ses contacts chez OpenAI pour qu’ils lui envoient des datasets bruts. Rien n’y a fait. Les preuves étaient là. Alors il a fait ce que font les mathématiciens quand les équations ne veulent pas marcher : il a changé de modèle.
Il a rejoint OpenAI.
Pas comme consultant. Pas comme figure morale. En 2021, il a quitté l’ENS et l’INRIA pour s’installer à plein temps dans les locaux de San Francisco, avec un salaire et un titre qui claquaient : Senior Research Scientist. Le même titre que les Sam Altman, les Ilya Sutskever, les chercheurs stars qui avaient cru en l’IA depuis le début. Sauf que lui, il avait tort. Et c’est ça, le vrai problème.
Pourquoi les sceptiques finissent tous par plier
Ce n’est pas une histoire isolée. Regardez les noms : Yann LeCun, pionnier de la reconnaissance d’images, a mis des années à admettre que les réseaux de neurones pouvaient faire mieux que des règles de logique. Noam Chomsky, le linguiste qui a passé sa carrière à démontrer que les humains ne sont pas des machines à probabilités, a fini par concéder que certains modèles d’IA ressemblaient à du langage. Même les philosophes, ces incorrigibles, commencent à parler de « conscience artificielle » sans sourciller.
Pourquoi ? Parce que l’IA ne se contente plus de battre aux échecs ou de gagner des concours de traduction. Elle invente. Elle écrit des scénarios de films qui passent les tests de Turing. Elle compose de la musique que des orchestres jouent. Elle diagnostique des cancers mieux que 80 % des radiologues. Et surtout : elle coûte trop cher de continuer à dire non.
Prenez le cas des hôpitaux. En 2022, une étude de Nature a montré que les outils d’IA réduisaient les erreurs de prescription de 30 %. 30 %. Pas 5 %. Pas 15 %. Trente pour cent. Un hôpital moyen économise 2 millions d’euros par an en évitant les surdosages. Les médecins qui résistent ? Ils finissent par craquer. Parce que refuser l’IA, c’est signer des arrêts de mort. Littéralement.
Bubeck le sait. Il voit les emails qui arrivent dans sa boîte mail : « Sébastien, on a un problème avec le modèle de langage pour les urgences pédiatriques, tu peux regarder ? » Il répond. Toujours. Parce que maintenant, il est dedans. Et sortir, ce serait comme avouer qu’on a passé dix ans à jouer aux échecs alors que le monde est passé aux échecs quantiques.
Le piège des preuves qui tuent les doutes
Le vrai tour de force de l’IA, ce n’est pas la technologie. C’est la psychologie. Elle fonctionne comme une secte : au début, vous êtes sceptique. Vous testez. Vous critiquez. Vous trouvez des failles. Puis un jour, vous réalisez que les failles, c’est vous qui les avez créées.
Prenez l’exemple des hallucinations des grands modèles de langage. Tout le monde s’en plaint. Tout le monde dit : « Mais ça invente n’importe quoi ! » Oui. Sauf que ces « inventions » sont souvent justes. Pas toujours. Pas précisément. Mais assez pour que ça marche dans 60 % des cas. Et 60 %, c’est mieux que rien.
Bubeck a un exemple qu’il adore citer. En 2020, un de ses collègues a demandé à un modèle : « Quels sont les symptômes de la maladie de Lyme chez les enfants ? » La réponse était fausse sur deux points. Mais les deux bons points étaient exacts. Et surtout : personne ne vérifiait. Parce que dans l’urgence, 60 %, c’est déjà un soulagement.
C’est là que le bascule devient inévitable. Vous commencez par dire : « Bon, c’est utile pour les premières pistes. » Puis : « Bon, on peut l’utiliser en complément. » Puis : « Bon, si on surveille, ça peut aider. » Et un jour, vous vous réveillez en train de signer des contrats pour déployer l’outil dans tous les services.
Bubeck a vu ça chez Google. Chez Meta. Chez les startups. Même chez les régulateurs. Les gens savent que c’est risqué. Mais le risque de ne pas l’utiliser est plus grand.
Ce qu’il ne dit pas sur OpenAI
Dans les interviews, il parle de « responsabilité ». De « transparence ». De « besoin de cadres éthiques ». Tout ça, c’est vrai. Mais ce qu’il ne dit pas, c’est que OpenAI est un piège. Pas par malveillance. Par nécessité.
Regardez les chiffres : en 2023, la valeur des licences d’API d’OpenAI a dépassé 1 milliard de dollars. Un milliard. En un an. Avec quoi ? Des modèles qui coûtent des millions à entraîner, qui consomment assez d’électricité pour alimenter une petite ville, et qui donnent des résultats parfois fiables. Mais fiables assez pour que les entreprises paient.
Bubeck gagne bien sa vie maintenant. Pas comme un académique. Comme un product manager. Il passe ses journées à arbitrer entre ce qui est scientifiquement solide et ce qui est commercialisable. Et devinez quoi ? Souvent, le commercialisable l’emporte.
Il y a des nuits où il doit se lever pour aller vérifier un bug dans un modèle de détection de fake news. Des semaines où il annule des conférences parce qu’un client menace de partir si le délai n’est pas tenu. Et des matins où il se réveille en se disant : « Putain, mais qu’est-ce qu’on est en train de construire ? »
Mais il ne démissionne pas. Parce que personne ne veut de lui ailleurs. Parce que les autres labos font la même chose. Parce que l’IA, c’est comme le feu : une fois allumé, vous ne pouvez plus l’éteindre.
La question que personne ne pose
Tout le monde parle des risques. De l’alignement. De l’IA qui nous dépasse. Mais personne ne demande : « Et si c’était trop tard ? »
Pas besoin d’une singularité technologique pour que l’IA change tout. Il suffit qu’elle soit assez bonne. Assez bonne pour que les médecins l’utilisent. Assez bonne pour que les juges s’appuient sur ses analyses. Assez bonne pour que les gouvernements l’emploient à trier les dossiers d’asile.
Bubeck voit ça tous les jours. Des gens qui lui disent : « Sébastien, on a besoin de votre modèle pour [insérer une tâche critique ici]. » Et lui, il répond : « Oui, mais vous avez lu les limites ? » Et eux : « On n’a pas le choix. »
Le problème, ce n’est pas que l’IA soit trop puissante. C’est qu’elle soit assez puissante. Assez pour que les gens croient qu’elle l’est. Assez pour que les doutes deviennent un luxe.
Et Sébastien Bubeck, l’homme qui avait tort, est maintenant celui qui signe les chèques.
Parce que quand l’IA a raison, même les sceptiques n’ont plus le choix.
