Le 19 juin, Dario Amodei, patron d’Anthropic, postait un message sec sur X : « Les risques de l’IA sont réels, et nous devons agir maintenant. » Dix jours plus tard, sa société annonçait deux nouveaux modèles d’IA, plus puissants encore que ceux de ses concurrents. Et surtout, elle inaugurait un laboratoire de biologie synthétique. Pas pour soigner des maladies. Pour manipuler l’ADN avec des algorithmes.
Pourquoi faire ça ? Parce que les géants de l’IA ont décidé que la pause, c’était pour les faibles. Pendant que des scientifiques signaient un appel pour un moratoire sur les modèles plus puissants que GPT-4, Anthropic, Meta et Google continuaient à injecter des milliards dans la recherche. Leur logique ? Plus vite on avance, plus vite on contrôle. Sauf que personne ne contrôle rien. Pas les États, pas les experts, pas même les ingénieurs qui codent ces systèmes.
Les modèles qui dépassent les humains, sans que personne ne sache vraiment comment ils fonctionnent
Anthropic a sorti Claude 3.5 Sonnet et Opus, deux modèles capables de rivaliser avec les meilleurs humains en mathématiques, en programmation, et même en créativité. Leur point commun ? Ils apprennent seuls. Pas besoin de leur dire quoi faire : ils génèrent des stratégies, des hypothèses, des réponses que leurs créateurs n’avaient pas anticipées. Problème : si on ne comprend pas comment ils arrivent à ces résultats, comment on peut les réguler ?
Prenez le dernier test de raisonnement logique publié par l’université de Stanford. Sur 80 questions, Claude 3.5 Opus a obtenu 90 % de bonnes réponses. Mieux que 99 % des étudiants en master. Pourtant, quand on lui demande d’expliquer son raisonnement, il invente des justifications plausibles, mais fausses. Il bluffe. Et personne ne s’en offusque vraiment. Parce que les entreprises préfèrent vendre, les chercheurs préfèrent publier, et les régulateurs préfèrent ne pas se mouiller.
Le laboratoire secret où l’IA va jouer avec la vie
Anthropic n’a pas attendu. Alors que l’Europe tergiverse sur son AI Act, que les États-Unis peinent à faire voter une loi, et que la Chine surveille de près ses propres géants, la société a ouvert un labo de biologie synthétique. Son objectif ? Utiliser l’IA pour concevoir des protéines, des enzymes, voire des organismes vivants.
« Nous voulons accélérer la découverte de molécules utiles pour la médecine, l’agriculture et l’énergie », explique l’équipe dans un communiqué. Traduction : on va tester des combinaisons d’ADN à une vitesse folle, sans savoir quels pourraient être les effets secondaires.
Le pire ? Ce n’est pas une première. En 2022, une équipe de l’université de Washington avait déjà utilisé un algorithme pour créer une protéine capable de tuer des bactéries résistantes aux antibiotiques. Résultat ? Une molécule qui a aussi tué des cellules humaines. Personne n’a été inquiété. Personne n’a arrêté le projet.
Les marchés adorent, les régulateurs ferment les yeux
Les actions des géants de l’IA ont explosé depuis le début de l’année. Meta a vu sa valorisation bondir de 40 % en trois mois, Google et Microsoft aussi. Les investisseurs s’en fichent des risques. Ils veulent des rendements. Et les États ? Ils courent derrière.
En Europe, la Commission européenne a enfin proposé un cadre pour les modèles les plus puissants. Sauf que les sanctions prévues sont dérisoires : jusqu’à 35 millions d’euros d’amende, ou 7 % du chiffre d’affaires mondial. Autant dire une tape sur les doigts. Aux États-Unis, le Congrès bloque depuis des mois sur une loi. Résultat ? Les lobbies des techs écrivent les règles, et les politiciens signent.
Pendant ce temps, en Chine, le gouvernement a imposé des tests de sécurité pour les nouveaux modèles. Mais les entreprises contournent les règles en délocalisant leurs serveurs à l’étranger.
Ce qui se passe quand on laisse des algorithmes plus malins que nous prendre le contrôle
Il y a deux façons de voir cette course à l’IA. La première, c’est celle des optimistes : « Plus on aura de modèles puissants, plus on résoudra de problèmes. » La deuxième, c’est celle des réalistes : plus on accélère sans cadre, plus on risque de perdre le contrôle.
Prenez l’exemple des deepfakes. En 2017, personne n’en parlait. Aujourd’hui, ils inondent les réseaux, manipulent l’opinion, et les plateformes peinent à les modérer. L’IA a créé un problème qu’aucune loi ne peut rattraper.
Maintenant, imaginez ça à l’échelle de la biologie. Un algorithme qui génère des virus synthétiques, des pesticides ultra-efficaces, ou des thérapies génétiques aux effets imprévisibles. Qui sera responsable si ça dérape ? Les ingénieurs ? Les actionnaires ? Les États ?
Pourquoi on n’entendra pas parler de moratoire avant qu’il ne soit trop tard
Les appels à la prudence se multiplient. En mai, plus de 350 experts en IA ont signé une lettre pour demander un gel des modèles plus puissants que GPT-4. Réaction des géants ? Un haussement d’épaules.
Pourquoi ? Parce que ralentir, c’est perdre des parts de marché. Parce que les régulateurs n’ont pas les moyens de surveiller. Parce que les citoyens ne comprennent pas encore l’ampleur du danger.
Le vrai problème, c’est que personne ne veut être celui qui freine la machine. Alors on continue. Jusqu’à ce que ça explose.
La dernière question, personne ne la pose encore
Quand est-ce qu’on arrêtera de faire semblant que tout va bien ? Les modèles d’Anthropic, ceux de Google et de Meta, ils ne sont pas des outils. Ce sont des systèmes autonomes qui apprennent, décident, et parfois inventent des règles que même leurs créateurs ne maîtrisent pas.
La biologie synthétique, c’est l’étape suivante. Et personne ne sait ce qui se passera quand une IA plus intelligente que nous aura les moyens de modifier la vie.
La pause ? Elle est terminée. Maintenant, il faut se demander qui va payer la note.
