En 2015, un rapport du Center for Global Development estimait qu’une pandémie de grippe aviaire mal gérée pourrait faire 60 millions de morts. Dix ans plus tard, Bill Gates parle d’un milliard. Pas de virus cette fois, mais d’IA. Pas une IA générique, non : celle qui décide déjà pour vous, sans que vous le sachiez. Celle qui trie les CV, évalue les risques médicaux, ou bientôt, gère vos économies. Celle qui, selon lui, pourrait « entraîner des événements provoquant un milliard de morts » si on ne la bride pas maintenant.
Pas de science-fiction. Juste un constat : les systèmes d’IA actuels, même les plus « bénins », sont des boîtes noires. Vous leur donnez des données, ils vous sortent des décisions. Le problème ? Personne ne maîtrise vraiment leur logique. Et quand une IA se trompe, ce n’est pas une erreur de calcul. C’est un bug qui peut coûter des vies. En 2018, un algorithme utilisé par des hôpitaux américains pour allouer les soins a discriminé des patients noirs en sous-estimant leurs besoins. Résultat : des milliers de personnes mal soignées, parfois jusqu’à la mort. L’IA n’a pas tué personne ce jour-là. Mais elle a permis que ça arrive.
Gates ne parle pas de ça. Il parle pire. Il évoque des scénarios où l’IA, poussée à ses limites, déclenche des chaînes d’événements incontrôlables. Un marché financier qui s’effondre parce qu’un algorithme de trading a mal interprété un signal. Une usine automatisée qui produit des millions de doses de médicament faux parce que son système de contrôle qualité a été piraté. Une guerre déclenchée par une mauvaise interprétation d’un satellite espion. Rien d’improbable. Juste des failles que personne n’a comblées.
Pourquoi les régulateurs n’ont toujours pas réagi ?
Parce que l’IA, c’est comme le tabac dans les années 1950 : tout le monde sait que ça tue, mais les lobbies et les géants du secteur bloquent les lois. DeepMind, filiale d’Alphabet (Google), a signé un accord avec le NHS britannique pour utiliser ses outils d’IA en santé. Sans transparence. Sans audit indépendant. Sans que quiconque sache vraiment comment ça marche. En 2023, l’UE a tenté de légiférer avec son AI Act, mais les exceptions pour les « systèmes à haut risque » sont si larges qu’elles rendent la loi presque inefficace. Aux États-Unis ? Rien. Le National Institute of Standards and Technology (NIST) travaille sur des lignes directrices depuis 2016. Résultat : des recommandations. Pas des lois.
Gates a raison sur un point : l’autorégulation, c’est une blague. Les GAFAM et leurs équivalents chinois ne vont pas se saborder. Elles ont tout intérêt à ce que l’IA reste opaque. Plus elle est puissante et incompréhensible, plus vous dépendez d’elles. Et plus elles contrôlent votre vie.
Le vrai problème, c’est que personne ne veut assumer.
Les gouvernements ? Ils ont peur de freiner l’innovation. Les experts ? Ils se perdent dans des débats techniques. Les citoyens ? Ils croient encore que l’IA, c’est juste Siri qui leur recommande une playlist. Pourtant, le risque n’est pas dans 20 ans. Il est déjà là. En 2020, une étude de l’University of Pennsylvania a montré qu’un algorithme utilisé pour évaluer la dangerosité des délinquants avait biaisé les jugements contre les Noirs et les Latinos. Pas par malveillance. Par conception. Parce que les données d’entraînement étaient pourries.
Gates ne propose pas de solution miracle. Juste une évidence : il faut des lois maintenant. Des lois qui obligent les entreprises à ouvrir leurs boîtes noires. À auditer leurs systèmes. À assumer les conséquences quand ça foire. Pas dans cinq ans. Pas après une catastrophe. Aujourd’hui.
Mais le plus flippant, c’est que même lui, Gates, semble résigné. Il parle d’IA comme on parle d’une arme nucléaire : trop tard pour l’interdire, trop tôt pour la maîtriser. La différence ? Avec une bombe, vous savez où elle est. Avec l’IA, elle est déjà partout. Dans votre téléphone. Dans votre compte en banque. Dans les décisions qui vous concernent sans que vous ayez votre mot à dire.
Ce que ça change pour vous ?
Rien. Pas encore.
Vous continuez à utiliser Google Maps sans vous demander comment il calcule vos trajets. Vous laissez votre banque utiliser des algorithmes pour vous refuser un prêt. Vous croyez que les réseaux sociaux vous montrent du contenu « personnalisé » alors qu’ils optimisent juste votre temps d’écran. L’IA décide déjà. Elle vous manipule. Elle vous évalue. Elle vous exclut.
La seule différence, c’est que Gates vient de vous dire que si on ne fait rien, un jour, elle pourrait vous tuer. Pas vous personnellement. Pas comme une vengeance. Mais en masse. Comme une erreur de système. Comme un bug qui devient une catastrophe.
Et le pire ? Vous ne saurez même pas pourquoi.
Parce que personne ne comprend vraiment comment ça marche.
Pas les gouvernements. Pas les entreprises. Pas les experts.
Juste les algorithmes.
Et eux, ils ne répondent à personne.
