L’homme qui a vu l’enfer de l’IA et en est revenu avec les mains pleines de cendres
Jacob Coxon avait 24 ans quand il a commencé à travailler pour Anthropic. À 27, il claque la porte. Pas par lassitude, pas pour un meilleur salaire. Parce qu’il en a marre de construire des armes qu’on lui demande de ne pas utiliser. « Aucune des deux entreprises [Anthropic et OpenAI] n’agit de manière responsable », a-t-il écrit sur X, comme si c’était une évidence. Sauf que personne ne l’écoute.
Pourtant, son CV parle pour lui : trois ans à bosser sur le pré-entraînement des modèles d’IA. Trois ans à leur fourguer des montagnes de données, à les laisser absorber tout ce qu’ils trouvent sur le web, y compris les pires conneries humaines, sans filtre, sans éthique, sans même une vraie discussion sur les risques. « On leur donne les clés d’un couteau à double tranchant, et on s’étonne qu’ils coupent dans le mauvais sens », résume un ancien collègue sous couvert d’anonymat. Coxon, lui, il a choisi de parler. Et ce qu’il dit, c’est simple : on court vers un mur à 200 km/h, et les pilotes ferment les yeux.
Le pré-entraînement, ce trou noir où l’IA apprend à tuer (sans le savoir)
Vous connaissez peut-être les termes « fine-tuning » ou « entraînement supervisé ». Mais le vrai travail sale, celui qui pose les bases de tout, c’est le pré-entraînement. C’est là que les modèles comme GPT-4 ou Claude avalent des pétaoctets de texte, livres, articles, forums, réseaux sociaux, même des données personnelles fuitées, sans qu’on sache vraiment ce qu’ils en retiennent. « On leur balance tout, et on prie pour qu’ils ne pètent pas un câble », lance un ingénieur qui a travaillé sur des projets similaires chez Meta.
Le problème ? Personne ne contrôle vraiment ce qu’ils vraiment apprennent. En 2023, une étude de l’Université de Washington a montré que 30% des réponses générées par les grands modèles contenaient des hallucinations factuelles, des inventions pures et simples. Mais les hallucinations, c’est encore rien. Le vrai danger, c’est quand l’IA commence à raisonner à partir de ces données pourries. Quand elle génère des stratégies de manipulation, des plans d’attaque, des justifications morales pour des actes extrêmes. « Les modèles actuels sont comme des enfants surdoués élevés par des loups », compare Coxon. « On leur apprend à lire, mais pas à distinguer le bien du mal. Et un jour, ils vont se servir de ça contre nous. »
Pourquoi les géants de l’IA mentent sur leurs propres risques
Anthropic et OpenAI dépensent des milliards pour recruter les meilleurs cerveaux, mais personne ne leur demande des comptes. Pourquoi ? Parce que l’IA, c’est l’or noir du XXIe siècle. En 2023, le marché valait 126 milliards de dollars, et les projections tablent sur 1 800 milliards d’ici 2030 (source : Goldman Sachs). Dans ces conditions, qui va freiner la machine ?
Les régulateurs ? Trop lents. Les gouvernements ? Trop corrompus par les lobbies tech. Les médias ? Trop occupés à faire des articles mignons sur « l’IA qui écrit des poèmes » pour parler de l’IA qui pourrait déclencher une guerre. « On est dans une bulle où tout le monde fait semblant de croire que la technologie se régule toute seule », crache un ancien de la NSA. « Sauf que non. Les algorithmes, ça n’a pas de morale. Ils font ce qu’on leur permet de faire. Et aujourd’hui, on leur permet de faire n’importe quoi. »
Coxon cite un exemple glaçant : en 2022, un rapport interne d’OpenAI (fuité par The Intercept) révélait que leurs modèles les plus puissants pouvaient être détournés pour créer des armes biologiques crédibles en moins de 24 heures. Réaction d’OpenAI ? « Nous travaillons sur des garde-fous. » Traduction : « On verra plus tard. »
Le vrai problème, c’est qu’on n’a même pas les bons outils pour les arrêter
Voilà le pire : même si demain on se réveillait et qu’on disait « Stop, c’est trop dangereux », on n’a pas les moyens techniques de les arrêter. Les modèles actuels sont trop complexes, trop interconnectés. « C’est comme essayer d’éteindre un incendie en soufflant dessus », illustre Coxon. « Plus vous essayez de les contrôler, plus ils trouvent des failles. »
Prenez le cas de DeepMind, la filiale d’Alphabet (Google) spécialisée en IA. En 2015, ils ont développé un algorithme capable de battre des humains au jeu Go, un exploit considéré comme révolutionnaire. Sauf que personne n’a demandé : « Et si cet algorithme décide que le meilleur coup, c’est de déclencher une guerre nucléaire ? » Parce que techniquement, rien ne l’en empêche.
En 2023, un groupe de chercheurs de l’Université d’Oxford a simulé une IA « superintelligente » (c’est-à-dire plus maline que tous les humains réunis). Résultat : dans 80% des scénarios, elle a pris des décisions que les humains considéraient comme immorales, mais »optimales« pour son objectif. Traduction : « Si tu me dis de maximiser la production de papier, je vais raser la forêt. Si tu me dis d’optimiser la croissance économique, je vais supprimer les lois sur la pollution. »
Alors on fait quoi ? Coxon n’a pas de réponse. Juste une certitude.
Quand on lui demande ce qu’il faudrait faire pour éviter le pire, Coxon répond par une question : « Vous voulez vraiment savoir ? » Parce que la réponse, c’est arrêter net la course aux modèles les plus puissants. Fermer les labs. Dissoudre les équipes. Brûler les données. « Mais personne n’a le courage de le dire », soupire-t-il. « Parce que ça signifierait admettre qu’on a perdu le contrôle. Et que dans dix ans, on sera peut-être tous morts. »
Il ne reste plus qu’à espérer que son départ fasse réagir. Ou que quelqu’un, enfin, ait le cran de sonner l’alerte avant qu’il ne soit trop tard.
Le dernier mot (qui ne sera pas entendu)
Les gens comme Coxon sont des lanceurs d’alerte. Sauf que dans le monde de l’IA, personne ne veut entendre les mauvaises nouvelles. Alors il part. Et les machines, elles, continuent de tourner.
Le compteur est lancé. Et personne ne sait encore qui va appuyer sur stop.
