Un chiffre, une limite. Une vie, un prix.
C’est écrit noir sur blanc dans le projet de loi qu’Anthropic a balancé devant les élus américains : le gouvernement peut demander la suspension d’une IA si elle risque de faire plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts. Pas 49. Pas 51 non plus. 50. Un nombre rond, comme si la mort se mesurait à l’unité, comme des caisses de bouteilles dans un entrepôt.
Et puis il y a ce détail qui claque : un milliard de dollars de dégâts, c’est l’équivalent de 50 morts, selon certaines études. Pas toujours. Pas partout. Mais assez souvent pour que le parallèle soit gênant. Anthropic, vous avez calculé ? Ou c’est juste une coïncidence qui arrange tout le monde ?
Le marché a un prix, la vie aussi.
Pourquoi 50 ? Personne ne l’explique vraiment. Les lobbies de la tech adorent les seuils : ça donne l’impression d’agir sans vraiment rien changer. 50 morts, c’est assez pour faire taire les critiques, pas assez pour paralyser l’industrie. C’est le juste milieu entre le trop et le pas assez. Comme si on avait négocié le nombre de vies sacrifiables en comité restreint.
Prenez l’exemple de l’automobile. Aux États-Unis, un constructeur peut vendre un modèle dangereux tant que le nombre de morts par million de véhicules ne dépasse pas un certain seuil. Résultat ? Des voitures qui tuent, mais pas trop. Des rappels qui traînent, des défauts qui persistent. Parce que 50 morts par an, c’est acceptable. L’IA, aujourd’hui, c’est la même logique.
Et les hôpitaux dans tout ça ?
Imaginez : un hôpital où, chaque année, 50 patients meurent à cause d’un mauvais diagnostic, d’une erreur de dosage, ou d’un bug dans un logiciel. On fermerait direct. Sauf que pour l’IA, c’est différent. Parce qu’une IA, ça ne sait pas qu’elle tue. Enfin… officiellement.
Anthropic et ses copains de Silicon Valley jouent avec les mots. Ils parlent de risque imminent, de prévisibilité. Mais qui prévoira ? Qui décidera ? Les ingénieurs ? Les actionnaires ? Les algorithmes eux-mêmes, un jour ? Le projet de loi est flou comme une photo pixelisée.
Le vrai problème, c’est la porte de sortie.
Ce seuil de 50 morts, c’est une assurance tous risques pour les géants de l’IA. Ça leur permet de continuer à tester, à déployer, à prendre des risques, en sachant que le pire scénario sera toléré. Parce que 50 morts, dans l’absolu, c’est peu. Assez pour faire la une des journaux locaux, pas assez pour déclencher une crise nationale.
Pensez à l’accident de Tesla en 2018, où un piéton a été tué par un véhicule en mode Autopilot. Résultat ? Une enquête, quelques ajustements, et hop, on passe à autre chose. 50 morts, c’est l’équivalent de cinq accidents comme celui-là. Assez pour que les régulateurs se réveillent, pas assez pour les faire sortir du lit.
Qui paiera l’addition ?
Un milliard de dollars, c’est le prix d’un gratte-ciel. Ou de 50 vies, selon les calculs. Sauf que les milliards, ça se récupère. Les vies, non. Les actionnaires d’Anthropic, de Google, de Microsoft, ils ont déjà prévu le coup : ils externalisent les risques. Ils vous disent : « On fait attention », mais en vrai, ils misent sur le fait que vous ne regarderez pas trop près.
Le vrai jeu, c’est ailleurs.
Ce projet de loi, c’est du théâtre. Personne ne croit vraiment que le gouvernement va suspendre une IA parce qu’elle risque de tuer 51 personnes. Les lobbies sont trop forts, les intérêts trop gros. Le seuil de 50 morts, c’est un leurre.
Ce qui se joue, c’est autre chose : qui contrôle l’IA ? Qui en assume la responsabilité ? Et surtout, qui décide ce qui est acceptable ?
Parce que 50 morts, c’est déjà trop. Mais pas assez pour changer la donne.
La vraie question, c’est : et si c’était 51 ?
Anthropic a choisi son nombre. Les régulateurs ont choisi leur silence.
Nous, on n’a pas le choix : soit on regarde ailleurs, soit on exige mieux. Parce que 50 morts, c’est une ligne rouge. Pas un seuil de tolérance.
