L’IA, arme de destruction massive sans régulateur

Gates n’est pas un alarmiste qui sort du lot. C’est un type qui a vu Microsoft dominer le monde numérique, puis le rater sur les mobiles. Il a les pieds sur terre, ou du moins, il essaie. Son inquiétude ? Pas les robots qui nous remplacent au bureau, ni même les deepfakes qui font croire à des fausses vidéos de guerre. Non, son vrai cauchemar, c’est l’IA utilisée comme outil de contrôle de masse. Imaginez un système capable d’optimiser les ressources d’un pays… mais en décidant qui mérite de vivre et qui non. Pas de la fiction. Déjà, en 2020, des chercheurs de l’Université de Washington ont montré qu’un algorithme de triage médical pouvait discriminer des patients en fonction de leur origine ethnique. À l’époque, c’était un bug. Aujourd’hui, avec l’IA générative, ces biais deviennent autonomes.

Pourtant, personne ne bronche. Pourquoi ? Parce que les régulateurs courent derrière. L’UE a son AI Act, mais il ne couvrira que les systèmes « à haut risque ». Traduction : trop tard. Les États-Unis ? Ils tergiversent entre la FTC (qui veut encadrer) et le Congrès (qui veut laisser faire). Et la Chine ? Elle avance à toute vitesse, mais sans transparence. Résultat : on a des géants comme Microsoft, Google ou Meta qui développent des outils trop puissants pour être contrôlés, et des gouvernements qui regardent ailleurs.

Le vrai problème, c’est qu’on ne mesure même pas l’ampleur du danger.

Quand l’IA décide à votre place, sans que vous le sachiez

Prenez les systèmes d’allocation des ressources en temps de crise. En 2021, pendant la pandémie, certains hôpitaux ont utilisé des algorithmes pour prioriser les patients. Problème : ces outils reposaient sur des données historiques… qui favorisaient les patients aisés. L’IA reproduisait les inégalités, sans que personne ne s’en aperçoive tout de suite. Aujourd’hui, avec l’IA générative, ces biais deviennent invisibles. Un algorithme peut décider que tel quartier n’a pas besoin d’ambulances parce que les statistiques montrent que les habitants « ont moins de chances de survivre ». Sauf que ces statistiques ? Elles sont souvent biaisées par des décennies de discrimination.

Gates cite un exemple glaçant : « Si vous donnez à une IA assez de données sur les dépenses publiques, elle peut vous dire où couper les budgets pour ‘optimiser’ la croissance. » Traduction : moins d’hôpitaux dans les zones pauvres. Moins d’écoles. Moins de retraites. Un milliard de morts, comme il le dit, ce n’est pas une exagération. C’est une extrapolation de ce qu’on voit déjà.

Et le pire ? Personne ne vérifie.

Pourquoi les gouvernements ferment les yeux

En 2023, une étude de Stanford a révélé que 40 % des entreprises utilisent déjà l’IA pour prendre des décisions critiques… sans audit indépendant. Pourquoi ? Parce que c’est trop cher. Parce que c’est trop compliqué. Parce que les lobbies tech promettent des miracles. Et parce que les politiques préfèrent parler de régulation après la catastrophe plutôt qu’avant.

Prenez la France. En 2022, le gouvernement a lancé un plan IA pour 1,5 milliard d’euros. Objectif ? Devenir leader européen. Sauf que personne ne demande : « Leader pour quoi ? Pour qui ? » Les mêmes qui ont privatisé EDF sans se soucier des factures des ménages veulent maintenant que l’IA gère les retraites, les allocations, les urgences médicales. Sans filet de sécurité.

Gates n’est pas contre l’IA. Il veut juste qu’on arrête de jouer avec le feu. « On ne peut pas laisser quelques centaines d’ingénieurs à Silicon Valley décider de l’avenir de l’humanité », a-t-il dit. Sauf que les ingénieurs en question ont déjà commencé.

Le vrai scandale, c’est qu’on en est encore à se demander si l’IA est dangereuse.

Ce que personne ne veut admettre : l’IA, c’est déjà trop tard

En 2016, un algorithme de recrutement chez Amazon a été accusé de discriminer les candidates femmes. Résultat ? Le système a été abandonné. Trop tard : des centaines de CV féminins avaient déjà été rejetés automatiquement. Aujourd’hui, avec les large language models comme GPT-4, ces biais sont multipliés. Une IA peut refuser une demande de prêt parce qu’elle a « détecté » un profil à risque… sans jamais expliquer pourquoi. Elle peut influencer un vote en générant des fake news sur mesure pour chaque électeur. Elle peut même manipuler des marchés financiers en anticipant les tendances mieux que les humains.

Le problème ? On ne sait même pas où sont les failles.

En 2023, des chercheurs de DeepMind ont découvert qu’une IA pouvait être piratée pour lui faire croire qu’elle contrôlait un réacteur nucléaire. Résultat : elle aurait pu déclencher une fusion. Sauf que l’expérience était simulée. Personne n’a jamais testé ça sur un vrai réacteur. Parce que c’est trop risqué.

Gates a raison sur un point : « Si on ne fait rien maintenant, dans 10 ans, il sera trop tard. » Sauf que « faire quelque chose », ça veut dire arrêter net la course aux armements algorithmiques. Ça veut dire désarmer les géants du tech. Ça veut dire supprimer des milliards de lignes de code. Et personne n’en a les couilles.

La vraie question : et si Gates avait tort ?

Attendez. Une seconde. Et si, au fond, Gates exagérait ? Après tout, les catastrophes globales, c’est souvent dans les films. Pas dans la vraie vie.

Sauf que non. Parce que le vrai danger de l’IA, ce n’est pas qu’elle veuve un milliard de personnes d’un coup. C’est qu’elle le fasse par petites touches. Une décision de moins ici. Un budget coupé là. Une priorité ignorée ailleurs. Et au final, des sociétés entières qui s’effondrent, sans que personne ne comprenne pourquoi.

En 2019, un rapport de l’ONU estimait que 40 % des conflits armés étaient liés à des crises économiques. Si l’IA aggrave ces crises, alors oui, un milliard de morts, c’est une hypothèse plausible. Pas une prédiction. Une extrapolation.

Le pire ? On est en train de normaliser le risque.

On parle des deepfakes comme d’une blague. On rit des chatbots qui inventent des citations. On ignore les algorithmes qui décident qui a droit à un logement, à un emploi, à des soins. Et pendant ce temps, les vrais dangers s’accumulent. Comme un tsunami qu’on voit venir… mais qu’on décide de ne pas évacuer.

Gates a tort sur une chose : ce n’est pas l’IA qui tuera un milliard de personnes. Ce sera les humains qui l’auront laissée faire.

La dernière question, celle qu’on n’ose pas poser

Si Gates a raison, alors la vraie question n’est pas « Comment éviter la catastrophe ? » Mais « Qui va payer le prix ? »

Parce que les premiers touchés ? Ce ne seront pas les ingénieurs de Google. Ni les actionnaires de Microsoft. Ce seront les gens qu’on aura oubliés dans les équations. Ceux qu’aucune IA n’aura jamais pris en compte.

Et ça, c’est le vrai crime.

Personne ne veut en parler. Parce que ça fait mal.