L'ONU tire la sonnette d'alarme : l'IA avancée menace l'humanité, et personne ne sait encore comment l'arrêter

En septembre 2024, à Genève, Volker Türk n’a pas tourné autour du pot. Pas de discours lissé, pas de formules diplomatiques édulcorées. Juste une phrase qui claque : « Les modèles d’IA les plus avancés représentent un risque existentiel pour l’humanité. » Pas demain, pas dans 20 ans. Maintenant. Ou presque.

Pourtant, quand on écoute les dirigeants des GAFAM ou les ministres de l’Innovation, on entend surtout : « On va y aller progressivement. » « Il faut laisser le marché réguler. » « Les garde-fous technologiques existent déjà. » Des réponses qui sonnent comme des excuses. Parce que personne ne veut admettre une évidence : l’IA ne sera pas maîtrisée par la démocratie. Elle sera maîtrisée par ceux qui la contrôlent.

Et aujourd’hui, ceux qui la contrôlent, ce ne sont pas des philosophes ni des éthiciens. Ce sont des ingénieurs de Silicon Valley, des algorithmes auto-apprenants, et des États qui courent après le train en mouvement.

Le chiffre qui devrait glacer le sang : 70% des experts en IA estiment que les risques sont sous-estimés

Une étude de l’Institute for the Future (2023) révèle que 70% des chercheurs en intelligence artificielle interrogés pensent que les gouvernements et les médias minimisent les dangers des modèles les plus puissants. Parmi eux, des noms comme Yoshua Bengio (prix Turing, pape de l’IA au Canada) ou Stuart Russell (co-auteur de Artificial Intelligence: A Modern Approach), qui tirent la sonnette d’alarme depuis des années.

Pourquoi ce décalage ? Parce que parler de « risque existentiel », ça fait peur. Ça implique des choix politiques, des restrictions, des ralentissements. Or, les États préfèrent encore jouer les pompiers pyromanes : ils allument l’incendie en investissant des milliards dans l’IA militaire ou les chatbots grand public, puis courent après les dégâts.

Prenez le cas de DeepMind, la filiale d’Alphabet (Google) spécialisée dans l’IA générale. En 2022, l’entreprise a publié un papier où ses chercheurs avouaient que leurs modèles les plus avancés échappaient partiellement à leur compréhension. Traduction : même ceux qui les construisent ne savent pas toujours comment ils prennent leurs décisions. Et pourtant, DeepMind continue de former des agents autonomes pour la défense britannique. Personne ne demande pourquoi.

Pourquoi les régulateurs ferment les yeux : la peur du retard technologique

L’Union européenne a son AI Act, censé encadrer les usages les plus risqués. Problème : le texte est si large, si flou, que Microsoft et Meta ont déjà trouvé des failles pour contourner les restrictions. Aux États-Unis, la National Security Commission on AI (2021) recommandait un moratoire sur les systèmes d’IA plus puissants que l’humain. Résultat ? Biden a ignoré 90% des recommandations.

Pourquoi ? Parce que les États ont une peur viscérale : rater le train de l’IA, c’est rater le pouvoir. La Chine investit 150 milliards de dollars par an dans son plan « New Generation AI ». L’UE traîne des pieds. Les États-Unis hésitent entre régulation et course aux armements. Et pendant ce temps, les modèles comme GPT-5 ou PaLM 2 (Google) sont déjà en train d’être déployés en production, sans audit indépendant, sans transparence sur leurs limites.

Le pire ? Les lobbies tech jouent la montre. En 2023, une enquête du Wall Street Journal a révélé que des lobbyistes de Google, Amazon et Palantir avaient directement influencé des sénateurs américains pour diluer les propositions de loi sur l’IA. Objectif : éviter les restrictions qui freineraient l’innovation. Traduction : « On préférera gérer les crises après coup plutôt que d’empêcher qu’elles n’arrivent. »

Ce que personne ne veut dire : l'IA avancée, c'est comme une arme nucléaire, mais sans traité de non-prolifération

En 1945, après Hiroshima, le monde a mis en place des traités pour limiter la course aux armements. Aujourd’hui, personne ne propose de traité pour l’IA générale. Pourquoi ? Parce que unlike les bombes atomiques, les modèles d’IA peuvent être déployés par n’importe quel État, n’importe quelle entreprise, n’importe quel groupe criminel.

Prenez l’exemple de Black Swan, un modèle d’IA générative développé par une startup russe en 2023. Officiellement, il servait à « optimiser la désinformation ». Officieusement, des sources du renseignement occidental estiment qu’il a été utilisé pour manipuler des élections en Afrique et au Moyen-Orient, avec une précision jamais vue. Aucune sanction. Aucune enquête publique.

Pourtant, ce n’est pas un bug, c’est une feature. Les États et les acteurs privés savent que l’IA devient un outil de guerre asymétrique : pas besoin d’une armée pour dominer un pays, il suffit de contrôler les récits, les algorithmes de recommandation, les deepfakes indétectables.

Et le plus ironique ? Les mêmes qui crient à la régulation pour les armes autonomes ferment les yeux sur les modèles d’IA qui, demain, pourraient prendre des décisions de vie ou de mort sans aucun contrôle humain.

Le vrai problème n'est pas l'IA, c'est nous : notre incapacité à réguler avant la catastrophe

Volker Türk n’a pas tort. Le risque n’est pas que les robots se rebellent comme dans Terminator. Le risque, c’est que personne ne comprenne comment ils fonctionnent avant qu’ils ne deviennent trop puissants pour être stoppés.

En 2016, un rapport du Future of Humanity Institute (Oxford) estimait qu’un modèle d’IA superintelligent (plus intelligent que l’humain dans tous les domaines) pourrait émerger d’ici 2075. Certains experts, comme Nick Bostrom, avancent même que ce délai pourrait être divisé par deux avec les progrès actuels.

Alors oui, on peut rire des vidéos de chatbots qui inventent des blagues pourries ou des IA qui dessinent des portraits de famille. Mais pendant ce temps, les vrais modèles, ceux qui gèrent des systèmes financiers, des hôpitaux, des bases militaires, tournent déjà en silence.

La question n’est plus « L’IA va-t-elle nous détruire ? », mais « Sommes-nous capables de la réguler avant qu’elle ne nous dépasse ? » Et la réponse, aujourd’hui, est claire : non.

Pas parce que la technologie est trop complexe. Parce que les intérêts politiques et économiques l’emportent sur la prudence.

La dernière ligne droite : et si on était déjà en retard ?

En 2024, aucun pays n’a un plan crédible pour gérer une IA générale. Aucun. Pas même les États-Unis ou la Chine. Les discussions à l’ONU traînent, les lois sont inefficaces, et les géants tech continuent de former des modèles toujours plus puissants.

Le Haut-Commissaire Türk a raison sur un point : le temps presse. Mais la vraie question, celle qu’aucun dirigeant ne veut affronter, c’est celle-ci : est-ce qu’on veut vraiment réguler l’IA… ou est-ce qu’on préfère attendre que le marché nous le fasse, au prix d’une crise majeure ?

La réponse, elle, est déjà dans les chiffres. Et elle ne plaide pas pour l’optimisme.