L’IA, c’est comme un couteau dans un magasin de poudre à canon
Le rapport de Microsoft sur les risques de l’IA, publié en mars 2023, citait un chiffre qui claque : 76 % des entreprises interrogées avaient déjà intégré des outils d’IA générative dans leurs processus, sans cadre légal. Deux ans plus tard, le patron du groupe, Satya Nadella, balance un pavé dans la mare : « Nous devons agir maintenant. Pas dans six mois, pas dans un an. Maintenant. » Pas de discours flou, pas de « il faudrait peut-être ». Un ordre du jour, presque. Sauf que les gouvernements, eux, regardent ailleurs. Toujours.
Pourtant, Nadella ne parle pas pour parler. Derrière ses mots, il y a DeepMind, racheté par Google en 2014 pour 500 millions de dollars, qui a testé des modèles d’IA sur des données médicales sensibles sans consentement éclairé. Ou MidJourney, dont les licences d’images générées ont déjà été utilisées pour usurper l’identité de journalistes. Ou encore BlackBox AI, ce système de recrutement utilisé par des entreprises françaises qui a automatiquement rejeté 80 % des CV de femmes en 2021. Des exemples ? Oui. Des exceptions ? Non. Des scandales ? Non, des normes.
L’IA ne demande pas la permission, elle prend
Nadella pointe du doigt un problème simple : les régulateurs courent après les dégâts. La Commission européenne a mis deux ans à proposer son AI Act, un texte si lourd qu’il risque d’être obsolète avant d’être voté. Aux États-Unis, la FTC (la Federal Trade Commission) a ouvert une enquête sur les risques de l’IA en juillet 2023. Juillet. Alors que Stable Diffusion existait depuis 2020. Pendant ce temps, la Chine a sorti son règlement sur l’IA générative en août 2023, mais l’applique surtout pour censurer les contenus « politiquement sensibles ». Bref, tout le monde légifère, personne n’agit.
Le vrai problème ? Les normes proposées sont techniques. Trop. Nadella veut des règles « compréhensibles par le grand public ». Traduction : si un algorithme de recrutement rejette votre CV parce qu’il a détecté des mots comme « yoga » ou « association » (signes supposés d’un engagement militant), vous devez pouvoir savoir pourquoi. Aujourd’hui, c’est mission impossible. Les boîtes noires de l’IA fonctionnent comme des boîtes noires d’avion : on sait qu’elles tombent, mais personne ne veut ouvrir le moteur.
Le business de l’IA repose sur l’opacité
Pourquoi les géants du numérique résistent-ils ? Parce que l’IA, c’est leur arme secrète. OpenAI a levé 10 milliards de dollars en 2023. Google dépense 13 milliards par an en recherche sur l’IA. Microsoft ? 10 milliards rien que pour son partenariat avec Mistral AI. Ces sommes ne servent pas à « sécuriser » l’outil. Elles servent à le rendre plus performant. Plus performant = plus de données volées, plus de biais intégrés, plus de risques de dérapage.
Prenez GitHub Copilot. Un outil d’IA qui aide les développeurs à coder. En 2021, des chercheurs ont découvert qu’il copiait des lignes de code protégées par copyright. Microsoft a répondu : « C’est normal, c’est comme ça que l’IA apprend. » Traduction : « Désolé, mais votre propriété intellectuelle, on s’en fiche. »
Les États ferment les yeux parce qu’ils ont peur
Nadella a un argument massue : « Si nous n’agissons pas, ce seront les catastrophes qui nous forceront à légiférer. » Il pense à l’IA militaire, bien sûr. En 2022, la Russie a utilisé des drones autonomes équipés d’IA pour cibler des civils en Ukraine. En 2023, l’armée américaine a testé des soldats-robots capables de prendre des décisions de tir sans intervention humaine. Personne ne veut en parler, mais tout le monde sait que la prochaine guerre pourrait être gagnée par celui qui maîtrise l’IA.
Sauf que les États hésitent. Pourquoi ? Parce qu’ils ont peur de freiner l’innovation. Parce qu’ils dépendent des lobbies tech. Parce que personne ne veut être le premier à dire « stop ». Résultat : on légifère sur les symptômes, pas sur les causes.
Ce que Nadella ne dit pas (mais que tout le monde sait)
Microsoft pousse pour des normes « réelles et effectives ». Traduction : « On veut un cadre, mais pas trop contraignant. » Parce que si demain l’UE impose une taxonomie des risques trop stricte, les GAFAM pourraient délocaliser leurs serveurs dans des pays sans régulation. Comme elles l’ont fait avec les données personnelles après le RGPD.
Et puis, il y a le problème de la gouvernance. Qui va contrôler les contrôleurs ? Les régulateurs seront-ils indépendants des lobbies ? Non. Parce que les mêmes qui votent les lois sur l’IA reçoivent des dons des géants du numérique. En France, le rapport Villani sur l’IA en 2018 a été financé… par Google. Aux États-Unis, le National AI Research Resource Task Force compte dans ses rangs des anciens de Meta et Amazon.
La vraie question n’est pas « comment réguler l’IA ? » mais « qui va réguler l’IA ? »
Nadella a raison sur un point : l’urgence est là. Mais ses appels à la modération sonnent creux quand on sait que Microsoft a breveté un système d’IA capable de manipuler des émotions humaines en 2022. Quand on sait que son outil Viva analyse les emails des employés pour « détecter le stress ». Quand on sait que son cloud Azure héberge des algorithmes de reconnaissance faciale utilisés par des régimes autoritaires.
Alors oui, des normes, il en faut. Mais pas celles que proposent les géants du numérique. Pas celles qui laissent les portes ouvertes. Il en faut d’autres. Des normes qui sanctionnent. Qui interdisent. Qui démantèlent quand c’est nécessaire.
Parce que l’IA, ce n’est pas une opportunité. C’est un risque. Et les risques, on ne les gère pas avec des bonnes intentions. On les gère avec des coups de poing.
La dernière ligne droite
Satya Nadella a raison de crier au loup. Sauf que le loup, c’est lui. Et les autres. Et les États qui ferment les yeux. L’IA ne sera pas domptée par des discours. Elle sera domptée par la peur. La peur des amendes. La peur des procès. La peur de voir leurs actionnaires fuir.
Alors oui, des règles. Mais pas celles qu’on nous vend. Des règles qui font mal. Parce que sinon, dans cinq ans, on sera tous dans la merde.
