Anthropic freine l'IA et révèle un dilemme brutal

Dario Amodei, le patron d'Anthropic, a balancé une phrase comme un pavé dans la mare des labs d'IA : « On devrait ralentir. » Pas un appel timide, pas une recommandation en passant. Une directive claire, jetée en plein week-end, alors que les concurrents de son entreprise, Meta, Google, Mistral, continuent de sortir des modèles de plus en plus puissants, comme si la course à l’armement algorithmique n’avait pas de limites. Pourquoi lui, pourquoi maintenant ? Parce qu’il a vu ce que les autres feignent d’ignorer : l’IA ne progresse pas en ligne droite. Elle avance par à-coups, et chaque saut en avant crée un nouveau vide juridique, éthique, et parfois technique. Bref, un bordel.

Le cadre à trois étapes qui fait grincer des dents

Amodei propose un plan en trois temps : d’abord, « évaluer les risques » avant de lancer un nouveau modèle. Ensuite, « impliquer les régulateurs », un euphémisme, vu que les États traînassent comme des moules. Enfin, « communiquer clairement » sur les limites des systèmes. Problème : personne ne sait comment appliquer ça sans étouffer l’innovation. Les labs d’IA fonctionnent comme des startups dopées à l’adrénaline. Leur business model repose sur la vitesse. Si tu ralentis, tu perds des parts de marché face à un concurrent qui, lui, ne freine pas.

Prenez Google. En mai dernier, DeepMind a sorti Gemini 1.5, un modèle capable de traiter des données en temps réel, comme si c’était de l’air. Résultat ? Les benchmarks explosent, les médias en parlent comme d’une révolution, et les investisseurs applaudissent. Personne ne demande : « Mais à quel prix ? » Les risques ? Des bugs critiques, des biais renforcés, une consommation énergétique qui fait passer les data centers pour des centrales à charbon. Anthropic, lui, propose de mettre le frein à main. Sauf que : qui va écouter ?

Le chiffre qui résume tout le problème

Selon une étude du Stanford Institute for Human-Centered AI (2023), 78 % des modèles d’IA déployés en production contiennent des failles de sécurité non corrigées. 78 %. Un score qui ferait rougir n’importe quel logiciel grand public. Pourtant, les entreprises continuent de les sortir, comme si la responsabilité se diluait dans l’air du temps. Amodei cite un exemple concret : les hallucinations des grands modèles. « On sait que GPT-4 invente des sources, des citations, des faits. Mais on ne mesure pas encore l’impact à grande échelle. » Traduction : si un avocat utilise ChatGPT pour préparer un dossier et que le juge découvre que 30 % des « preuves » sont des inventions, qui est responsable ? L’IA ? Le client ? Le développeur ? Personne ne veut trancher.

Pourquoi les régulateurs ferment les yeux

L’UE a son AI Act, les États-Unis ont des projets de loi en discussion. Sauf que : quand les lobbies tech poussent, les textes s’étirent. Prenez la France. En 2023, le gouvernement a annoncé un « plan IA responsable ». Sur le papier, c’est ambitieux. Dans les faits ? Trois ingénieurs et un budget serré pour superviser des centaines de modèles. Le vrai pouvoir reste du côté des labs : ils fixent les règles, ou du moins, ils les contournent. Quand Amodei parle d’« impliquer les régulateurs », il sait très bien que ces derniers n’ont ni les moyens ni l’expertise pour suivre le rythme. Le résultat ? Une régulation à la carte.

Ce que ça change (et ce que ça ne change pas)

Anthropic n’est pas une petite structure. C’est l’un des labs les plus sérieux, financé par des fonds comme Amazon et Google. Si son patron prend la parole, ça se voit. Mais est-ce que ça va marcher ? Probablement pas. Pas tant que les actionnaires exigeront des résultats trimestriels, pas tant que les concurrents joueront les apprentis sorciers, et pas tant que les utilisateurs croiront dur comme fer que « plus c’est puissant, mieux c’est ».

Ce qui va changer : quelques laboratoires vont peut-être ralentir. D’autres vont se moquer d’Amodei en interne. Ce qui ne changera pas : la course aux modèles. Parce que l’IA, aujourd’hui, ce n’est pas qu’une technologie. C’est un enjeu de pouvoir. Celui qui domine les données domine le futur. Et personne ne veut lâcher ce futur.

La vraie question : et si on arrêtait tout ?

Amodei ne le dit pas, mais c’est ce qu’il sous-entend. Et si, au lieu d’accélérer, on faisait une pause ? Pas pour toujours. Juste le temps de comprendre où on met les pieds. Le problème : personne n’a intérêt à cette pause. Pas les géants, pas les États, pas même les utilisateurs finaux, trop occupés à demander « Et moi, j’ai droit à quoi, du coup ? »

Alors oui, Anthropic freine. Mais la machine est déjà lancée. Et les autres ? Ils ne s’arrêteront pas.