Le jour oĂą les robots ont eu droit Ă leur loi
C’est un chiffre qui claque comme un coup de poing. Un milliard de dollars de dégâts, ou 50 morts ou blessés graves. À partir de là , les développeurs d’IA devront justifier leurs prototypes. C’est la ligne rouge proposée par Anthropic, le laboratoire de Silicon Valley qui a sorti l’un des premiers modèles conversationnels grand public. Et surtout, c’est la première fois qu’une entreprise du secteur propose une loi avant que le gouvernement ne la lui impose, ou pire, qu’un accident ne la force à l’adopter en urgence.
Pourtant, personne ne s’en réjouit vraiment. Pas les régulateurs, pas les géants du tech, et surtout pas les politiques. Depuis l’été, le Congrès américain se déchire sur le sujet. Certains veulent un moratoire, d’autres un cadre léger, d’autres encore rien du tout. Trump, lui, avait balayé la question d’un revers de main : « L’IA, c’est l’avenir, on ne va pas freiner l’innovation. » Sauf que l’innovation, justement, avance plus vite que les lois. Et c’est Anthropic qui vient de leur balancer un ultimatum déguisé en proposition.
Le piège des chiffres qui ne veulent rien dire
50 morts. 1 milliard. Ces nombres sonnent comme une assurance tous risques. « On fixe un seuil, et hop, problème résolu », pourrait-on croire. Sauf que personne ne sait vraiment comment mesurer ces dégâts. Un algorithme de recrutement qui discrimine 50 personnes ? Un deepfake qui fait basculer une élection ? Une IA qui piège des enfants dans des jeux en ligne ? Où commence le « grave » ?
Anthropic a sorti son texte en septembre, après des mois de lobbying discret. Leur argument ? « On préfère réguler nous-mêmes plutôt que de laisser le Congrès bricoler une loi dans l’urgence, après un crash. » Traduction : « On veut contrôler le récit. » Parce que si un jour une IA tue quelqu’un, ou fait s’effondrer un marché, ce ne seront pas les ingénieurs d’Anthropic qui écoperont. Ce sera l’IA en général. Et eux, ils veulent être ceux qui diront « On vous avait prévenus. »
Le problème, c’est que leur proposition est trop étroite pour être utile, et trop large pour être appliquée. Un milliard de dollars, c’est le budget annuel de certaines startups. 50 morts, c’est moins qu’un accident d’avion. Les lobbies des assurances et des géants du cloud vont adorer : « Tout est couvert, on peut continuer. » Les ONG de droits humains, elles, vont hurler : « C’est une blague. » Parce que les biais algorithmiques, les fuites de données, les manipulations psychologiques ? Tout ça, ça ne rentre pas dans la case « mort ou blessure grave ».
L’astuce qui fait grincer des dents
Ce qui agace le plus chez cette proposition, c’est son double langage. Officiellement, c’est une limite pour « protéger la société ». En réalité, c’est un filet de sécurité pour eux. Anthropic et ses concurrents (comme Google DeepMind ou Meta) savent une chose : les régulateurs n’ont aucune idée de ce qu’ils font. Les outils pour auditer une IA n’existent pas. Les experts sont une poignée. Alors plutôt que d’attendre qu’un juge ou un sénateur incompétent en matière de deep learning leur colle une amende pharaonique après un scandale, autant se donner une marge.
Leur texte prévoit aussi que les modèles les plus puissants soient testés par des tiers, mais choisis par les entreprises elles-mêmes. Autrement dit : « On se contrôle entre nous. » C’est comme si une banque se disait « On va auditer nos propres comptes pour éviter les fraudes. » Personne n’y croit. Sauf que cette fois, les enjeux sont bien plus gros.
Pourquoi les politiques tergiversent
À Washington, on a deux camps. D’un côté, ceux qui veulent faire semblant d’agir : des lois floues, des commissions, des rapports qui traînent dans les tiroirs. De l’autre, ceux qui veulent laisser faire, parce que l’IA, c’est des voix aux élections et des dons pour les campagnes. Entre les deux, personne ne veut être celui qui va dire « Non, on ne peut pas développer cette IA parce que… », surtout quand les lobbies promettent des millions.
Le pire, c’est que personne ne lit vraiment le texte d’Anthropic. Les sénateurs ont reçu des centaines de pages de propositions techniques qu’ils ne comprennent pas. Les médias en parlent comme d’une « avancée historique », alors que c’est surtout un coup de communication. Parce que si demain une IA fait s’effondrer un marché ou manipule une élection, Anthropic pourra toujours sortir son texte et dire : « On vous avait prévenus. Nos limites étaient claires. »
Le vrai risque, c’est qu’on ne fasse rien
Le plus ironique, c’est que cette proposition arrive trop tard. Les modèles les plus puissants sont déjà en circulation. Les fuites de données, les deepfakes, les biais algorithmiques ? Tout ça existe depuis des années. La seule différence, c’est que maintenant, les conséquences pourraient devenir systémique : un algorithme qui fait s’écrouler un système financier, une IA qui pirate des infrastructures critiques, un modèle qui manipule des millions de gens en temps réel.
Anthropic joue les pionniers responsables. En réalité, ils jouent les arbitres. Et le problème, c’est que personne ne leur a demandé ce rôle.
La question qui tue
Si cette loi passe, ou une version édulcorée, une chose est sûre : ce ne sera pas la dernière. Parce que les limites d’Anthropic, demain, seront celles de Google. Et après-demain, celles de la Chine. Le vrai débat ne commence pas avec ces chiffres. Il commence quand on se demandera : « Qui décide vraiment des règles ? Les ingénieurs ? Les politiques ? Les marchés ? »
Et surtout : « Qui paiera quand ça déraillera ? »
La dernière carte d’Anthropic
Leur proposition a un avantage : elle force le débat. Même si elle ne passe pas, elle a déjà fait bouger les lignes. Les régulateurs européens, eux, ont déjà une loi en préparation, mais elle est si complexe qu’elle pourrait prendre cinq ans à appliquer. Aux États-Unis, on est en train de réinventer la régulation en direct, avec des acteurs privés qui écrivent les règles à la place des États.
C’est ça, le vrai scoop. Pas les chiffres. Pas les promesses. C’est le transfert de pouvoir le plus silencieux de la décennie.
Et vous, vous voulez vraiment qu’une entreprise décide des limites de ce qui est acceptable ?
Parce que c’est exactement ce qui est en train de se passer.
