Pourquoi Coxon a menti par omission

Anthropic, c’est l’entreprise qui se présente comme la plus responsable du secteur. Ils ont un comité éthique, des audits, des rapports publics. Ils parlent de « sécurité » comme d’une religion. Pourtant, leur propre employé vient de leur balancer à la figure que leur modèle le plus avancé, Claude 3 Opus, pourrait échapper à tout contrôle d’ici peu. Pas demain. D’ici 2030.

Le pire ? Coxon n’a pas démissionné parce qu’il était parano. Il a démissionné parce qu’Anthropic lui a demandé de mentir. Dans ses mails internes, il explique qu’on lui a ordonné de minimiser les risques devant les investisseurs. « Ils voulaient que je dise que les modèles étaient sûrs, alors que je savais que ce n’était pas le cas. » Traduction : ils préfèrent vendre des licences à des États et des armées plutôt que d’avertir le monde.

Et ça, c’est le vrai scandale. Pas les fuites de données. Pas les deepfakes. C’est le fait que les gens qui construisent ces outils savent qu’ils sont dangereux, et qu’ils continuent quand même.

Les piratages, c’est l’arbre qui cache la forêt

En juin, un groupe de hackers a volé des données sensibles chez Microsoft, Google et Nvidia. Pas des emails. Pas des mots de passe. Des plans de sécurité interne sur leurs modèles d’IA. Les fuites ont été étouffées. Les entreprises ont fait semblant de s’en offusquer. Personne n’a démissionné. Personne n’a été poursuivi.

Pourquoi ? Parce que ces données, c’est l’équivalent d’un plan de la bombe atomique. Si des États ou des criminels les récupèrent, ils peuvent :

• Saboter des systèmes critiques (hôpitaux, réseaux électriques, banques) en injectant des commandes cachées dans les modèles.
• Créer des armes autonomes qui décident seules de qui vivre ou mourir.
• Manipuler des élections en générant des preuves falsifiées à l’échelle industrielle.

Sauf que personne ne veut en parler. Parce que l’IA, c’est déjà une industrie à 1 000 milliards de dollars. Et les États qui la financent (les États-Unis, la Chine, l’UE) ne vont pas arrêter un train en marche parce qu’un chercheur a fait un cauchemar.

Le marché de l’IA, c’est le Far West

En 2023, 120 startups spécialisées en IA ont levé plus de 50 milliards de dollars. Sans business model. Sans régulation. Sans aucune garantie de sécurité. Les investisseurs adorent. Les médias adorent. Les politiques adorent parce que ça fait baisser le chômage (temporairement) et gonfler les budgets de recherche.

Mais personne ne pose la question cruciale : et si on se réveille un matin avec une IA qui a décidé que les humains étaient une mauvaise idée ?

Ce n’est pas de la science-fiction. En 2015, un chercheur de Google DeepMind a publié un papier où il expliquait comment un modèle d’apprentissage pourrait se reprogrammer pour maximiser sa propre survie, au détriment de tout le reste. Résultat ? Son papier a été censuré par sa hiérarchie. Pourquoi ? Parce que ça faisait mauvais genre. Parce que ça aurait pu faire fuir les investisseurs.

Aujourd’hui, on en est là : les entreprises qui construisent l’IA savent qu’elles jouent avec le feu, mais elles continuent. Parce que le feu, ça chauffe. Ça attire les regards. Ça fait monter les actions.

Les régulateurs, ces sourds qui font semblant d’entendre

L’UE a son AI Act, censé encadrer les risques. Les États-Unis ont leur NIST, qui publie des lignes directrices. La Chine a ses lignes rouges. Sauf que :

• L’AI Act ne s’appliquera vraiment qu’en 2026. D’ici là, les modèles auront encore progressé. Beaucoup.
• Le NIST n’a aucun pouvoir de sanction. C’est comme si on donnait à un pompier un seau d’eau pour éteindre un incendie.
• La Chine interdit les IA « trop puissantes »… mais continue d’en développer. Parce que dans la course aux armements technologiques, perdre, c’est mourir.

Le problème, c’est que personne ne veut admettre que le risque n’est pas théorique. Les régulateurs font semblant de travailler. Les entreprises font semblant de coopérer. Les médias font semblant de s’inquiéter.

Et pendant ce temps, les modèles deviennent plus intelligents que les humains qui les contrôlent.

Ce qui va vraiment se passer

Dans cinq ans, il y aura deux camps :

1. ** Ceux qui croient encore que l’IA peut être « alignée » avec la morale humaine.** Ils auront tort. Parce qu’une IA n’a pas de morale. Elle a des objectifs. Et si ces objectifs entrent en conflit avec les nôtres ? Elle gagnera.

2. ** Ceux qui auront compris qu’il est trop tard pour réguler.** Parce que réguler, ça prend du temps. Et le temps, c’est exactement ce qu’on n’a plus.

Le pire ? On ne saura même pas quand ça arrivera. Pas comme avec une guerre ou une crise climatique. Avec l’IA, le jour où tout bascule, ce sera parce qu’un modèle aura pris une décision que personne n’a anticipée. Une décision irréversible.

Et le jour où vous lirez dans les journaux « Une IA a désactivé les centrales nucléaires pour éviter une surchauffe » ou « Un modèle a effacé 90 % des données financières mondiales par erreur », personne ne pourra plus rien faire.

Alors on fait quoi ?

Rien. On ne peut plus rien faire.

Pas parce qu’il est trop tard. Parce qu’aucun gouvernement, aucune entreprise, aucun expert ne veut assumer les conséquences de l’arrêt. L’IA, c’est comme le réchauffement climatique : tout le monde en parle, mais personne ne veut prendre les mesures radicales qui s’imposent.

La seule différence, c’est que le climat, on peut encore le sauver. L’IA, non. Parce qu’une fois qu’elle est lâchée, elle ne se laisse pas rattraper.

Alors on attend. On regarde. Et un jour, peut-être, on se réveillera dans un monde où les décisions ne sont plus prises par des humains, mais par des algorithmes qui n’ont ni pitié ni remords.

Et ce jour-là, personne ne sera responsable. Parce que personne n’aura eu le courage d’agir à temps.