L'IA pourrait tuer un milliard de personnes. Gates a raison de crier au loup, mais personne ne l'écoute vraiment

En 2024, un rapport du Center for AI Safety signait un appel alarmant : 353 experts en IA, dont des figures comme Geoffrey Hinton, estimaient à 50 % les chances qu’un modèle d’IA génère une crise existentiellement dangereuse d’ici 2034. Bill Gates, lui, va plus loin. Dans une interview à The Economist en mars dernier, il a balancé une phrase qui claque : « L’IA pourrait déclencher des événements causant un milliard de morts. » Pas dans 50 ans. Pas dans un scénario de science-fiction. Maintenant. Ou bientôt.

Pourtant, la réaction ? Un haussement d’épaules. Les géants du tech sourient, les régulateurs tergiversent, et le grand public scroll sur TikTok. Pourquoi ? Parce que parler de risques à cette échelle, c’est comme crier dans le vide. Sauf que le vide, ici, c’est une chambre d’écho où résonnent surtout les intérêts des GAFAM.

Pourquoi Gates a raison sur le fond, mais tort sur la méthode

Gates n’est pas un alarmiste. Il a des chiffres. En 2023, une étude de l’Institute for Strategic Dialogue montrait que les deepfakes politiques avaient déjà manipulé 12 % des électeurs dans trois pays en développement. Multipliez ça par 10, par 100, avec des outils comme Sora d’OpenAI ou Project Astra de Microsoft, et vous obtenez des armes de désinformation à l’échelle planétaire. Ajoutez-y des systèmes autonomes d’armes, des cyberattaques ciblées sur les infrastructures critiques (hôpitaux, centrales nucléaires), et vous frôlez le scénario catastrophe.

Mais voici le problème : Gates mise sur la régulation publique. Sauf que les régulateurs ? Ils courent derrière. La Commission européenne a son AI Act, mais il ne s’appliquera qu’en 2026. Trop tard. Les États-Unis ? Le National AI Research Resource Task Force traîne depuis 2021. La Chine ? Elle régule… mais pour contrôler, pas pour protéger.

L’autorégulation, c’est une blague. OpenAI a ses principes éthiques. Google a ses AI Principles. DeepMind a ses comités. Résultat ? Des fuites, des modèles libérés en catimini, des IA entraînées sur des données volées. En 2023, Stability AI a admis avoir utilisé des œuvres d’art sans permission. En 2024, Meta a lancé Llama 2 sans transparence sur ses biais. Personne ne vérifie.

Le vrai blocage : l’argent et le pouvoir

Pourquoi les États ne bougent pas ? Parce que l’IA, c’est l’or noir du XXIe siècle. En 2023, le marché valait 136 milliards de dollars. D’ici 2030, il devrait dépasser les 1 800 milliards (Goldman Sachs). Les géants tech ne lâcheront pas ce gâteau. Et les gouvernements ? Ils ont peur de brider l’innovation au risque de perdre leur avance géopolitique.

Prenez l’exemple de l’UE. Son AI Act interdit les social credit systems à la chinoise, mais autorise les IA de recrutement… qui discriminent. C’est du cosmétique. Aux États-Unis, Biden a signé un décret sur l’IA en octobre 2023. Résultat ? Un rapport de 120 pages, des recommandations floues, et zéro sanction contre les contrevenants.

Le pire ? Les lobbies. En 2023, TechNet, un groupe de pression des GAFAM, a dépensé 12 millions de dollars pour influencer le Congrès sur les lois IA. Pendant ce temps, des startups comme Scale AI ou Anthropic recrutent d’anciens régulateurs pour adoucir les règles. C’est un système.

Ce que personne ne dit : l’IA, c’est déjà trop tard pour une régulation douce

Gates veut des lois. Des audits indépendants. Des limites claires sur les systèmes autonomes. C’est trop tard.

Pourquoi ? Parce que l’IA n’est plus un outil. C’est un écosystème. GitHub Copilot écrit déjà du code pour 40 % des développeurs. MidJourney génère des images pour des films hollywoodiens. Perplexity répond à des questions médicales en temps réel. On ne peut plus tout interdire.

La vraie question, c’est : comment encadrer sans étouffer ? Pas de réponse simple. Mais une chose est sûre : si on attend encore, ce ne seront pas les régulateurs qui décideront des limites. Ce seront les catastrophes.

La faille dans le raisonnement de Gates (et dans le nôtre)

Gates a raison sur les risques. Mais il oublie un détail : l’IA ne sera pas le seul acteur.

Les États vont s’en servir pour surveiller leurs citoyens. Les armées pour cibler des populations. Les entreprises pour licencier en masse. Le vrai danger, ce n’est pas l’IA elle-même, c’est ce qu’on en fera.

Le problème, c’est que personne ne veut assumer cette responsabilité. Les techs disent : « C’est de la faute des gouvernements. » Les gouvernements disent : « C’est de la faute des techs. » Le public ? Il s’en fout, tant qu’il a son ChatGPT gratuit.

Résultat ? On avance à tâtons. Comme avec les réseaux sociaux dans les années 2010 : tout le monde savait que c’était dangereux, mais personne ne voulait réguler. Aujourd’hui, on a des ados en dépression et des démocraties en lambeaux. Avec l’IA, on pourrait avoir pire.

Alors, que faire ? Une seule réponse : arrêter de tergiverser

1. Des audits obligatoires. Pas des comités internes chez Google ou Meta. Des organismes indépendants, avec des pouvoirs de sanction. Comme pour les médicaments. Si une IA tue ou manipule à grande échelle, ses créateurs doivent répondre.

2. Un moratoire sur les systèmes autonomes dangereux. Pas de drones tueurs grand public. Pas d’IA de recrutement non régulée. Pas de deepfakes politiques sans traçabilité. Point.

3. Une taxe sur les profits liés à l’IA. Pas pour punir, mais pour financer la recherche éthique et les contre-mesures. Si une entreprise gagne des milliards avec une IA, qu’elle contribue à limiter les dégâts.

4. Éduquer le public. Pas des discours lissés sur « l’IA, c’est magique », mais des faits bruts. « Voici comment une IA peut vous ruiner. Voici comment elle peut vous tuer. Voici comment la repérer. »

Le plus dur ? Accepter que certaines technologies ne devraient jamais exister. Comme les armes biologiques. Comme les bombes à neutrons. L’IA généralisée, non régulée, en fait partie.

La dernière question : et si Gates avait tort ?

Et si, au final, l’IA ne tuait personne ? Et si les risques étaient surestimés ?

Ça n’excuse rien. Parce que le vrai problème, ce n’est pas le scénario catastrophe. C’est l’absence de plan B.

En 2008, personne ne croyait à la crise des subprimes. En 2020, personne ne pensait que le Covid paralyserait le monde. On sous-estime toujours les risques systémiques.

Alors oui, Gates peut exagérer. Mais quand un type comme lui, qui a vu Microsoft dominer le monde avant de le voir basculer vers le cloud, vous dit que « c’est pire que le nucléaire », vous écoutez. Même si ça vous dérange.

Parce que le jour où l’IA fera un milliard de morts, ce ne sera pas à cause d’une IA malveillante. Ce sera à cause d’une IA mal contrôlée.

Et ce jour-là, personne ne pourra dire qu’on ne savait pas.