L’avertissement qui dérange
Bill Gates n’a pas l’habitude de parler comme ça. D’ordinaire, il explique comment l’IA va révolutionner la médecine ou optimiser l’agriculture. Là, sur Meet the Press le 25 septembre, il a cassé son image de visionnaire bienveillant pour sortir un constat brut : « Si on ne met pas en place des garde-fous contraignants, on va droit dans le mur. » Pas de métaphores, pas de nuances. Juste une phrase qui tombe comme un couperet. Et le plus frappant ? Il ne parle pas d’un futur lointain. Il parle de dès demain.
Pourtant, les régulateurs tergiversent. L’UE traîne sur son AI Act, les États-Unis n’ont toujours pas de loi fédérale, et les entreprises ? Elles continuent d’investir des milliards comme si le risque était une option. Comme si un milliard de morts était un scénario black swan, cette expression à la mode pour désigner ce qui, par définition, ne devrait jamais arriver. Sauf que Gates, lui, y croit. Et il n’est pas le seul. En 2023, le Centre for the Governance of AI de l’Université d’Oxford estimait que le risque d’extinction humaine liée à l’IA était « non négligeable ». Traduction : on ne peut plus faire semblant de ne pas voir le danger.
Le problème n’est pas la technologie, c’est le pouvoir
L’IA, en soi, n’est pas un monstre. C’est un outil. Le vrai danger, c’est qui le contrôle. Et là, le tableau est sans appel : quelques géants, Google, Microsoft, Meta, détiennent les données, les serveurs, et les algorithmes les plus puissants. Les États ? Ils courent derrière. Les citoyens ? Ils ne savent même pas comment ça marche. Prenez le cas des deepfakes : en 2024, une étude de Sensity AI a montré qu’il suffisait de 10 dollars et de 10 minutes pour générer une vidéo réaliste d’une personne disant n’importe quoi. Assez pour faire basculer une élection, faire s’effondrer une bourse, ou déclencher une guerre. Et personne n’a les moyens de tout surveiller.
Pourtant, les solutions existent. Gates en cite trois, et elles sont toutes politiques :
- Des audits obligatoires pour les modèles les plus puissants, comme on vérifie la sécurité d’un médicament avant sa commercialisation. Sauf que là, c’est l’humanité qui est le cobaye.
- Une interdiction claire des systèmes autonomes capables de tuer, point final. Pas de débats moraux, pas de commissions qui tergiversent : interdit. Comme pour les armes chimiques, mais en plus urgent.
- Une régulation internationale, pas des lois nationales qui s’annulent entre pays. Parce qu’une faille dans un serveur en Chine peut faire s’écrouler un hôpital en Allemagne.
Pourquoi personne ne bouge ?
La réponse est simple : l’argent. Les GAFAM dépensent des centaines de milliards en R&D. Elles ont plus de lobbyistes à Washington que de chercheurs en éthique. Et les gouvernements ? Ils ont peur de freiner l’innovation, de perdre leur avantage économique. Résultat : on avance à tâtons, avec des rapports, des sommets, des déclarations d’intention… mais aucune mesure vraiment contraignante.
Prenez l’exemple de l’AI Act européen. Après des années de négociations, le texte final est si édulcoré qu’il laisse passer des trous gros comme des cathédrales. Les amendes prévues ? Dérisoires. Les obligations de transparence ? Contournables. Comme si Bruxelles avait peur de braquer les entreprises plutôt que de sauver des vies.
Le piège de l’optimisme technologique
Il y a un autre obstacle, plus insidieux : la croyance que « ça va bien se passer ». Les mêmes qui disaient « l’avion, c’est dangereux » dans les années 1920 sont aujourd’hui ceux qui minimisent les risques de l’IA. « Les bénéfices l’emportent sur les dangers », répètent-ils. Sauf que les bénéfices, pour l’instant, sont surtout pour une poignée de milliardaires. Et les dangers ? Ils sont globaux.
Gates ne le dit pas, mais c’est sous-entendu : si on ne réagit pas, ce ne sera pas une catastrophe lente, comme le réchauffement climatique. Ce sera un effondrement brutal. Une cyberattaque qui fait sauter les réseaux électriques en hiver. Un algorithme de trading qui fait s’écrouler les marchés. Une IA militaire qui prend une décision fatale. Et après ? Trop tard pour les regrets.
Ce que ça change pour vous
Vous ne voyez pas le danger ? C’est normal. Vous n’êtes pas un expert. Mais voici ce que vous devez retenir :
- Vos données ne vous appartiennent plus. Tout ce que vous poste, tout ce que vous achetez, tout ce que vous dites à Siri ou Alexa est gratté, analysé, revendu. Et un jour, ça pourrait servir à vous manipuler.
- Votre vie privée est déjà morte. Les deepfakes, les algorithmes de reconnaissance faciale, les prédictions comportementales, tout ça existe. Et ça s’améliore.
- Les décisions qui vous concernent ne seront plus prises par des humains. Déjà, les banques refusent des crédits grâce à des IA. Demain, ce sera les embauches, les diagnostics médicaux, les peines de prison. Sans que vous puissiez contester.
Gates ne propose pas de solution magique. Juste une évidence : « On ne peut plus faire semblant de ne pas comprendre. » Le problème, c’est que personne ne veut entendre ça. Parce que ça implique de ralentir, de réguler, de se priver d’un peu de ce progrès qui nous aveugle.
La vraie question n’est pas *« l’IA est-elle dangereuse ? », mais « qui va payer le prix de nos erreurs ? »*
Parce qu’à un moment, il faudra choisir. Soit on met des garde-fous maintenant, et on accepte de freiner une industrie. Soit on attend, et un jour, ce sera trop tard. Gates a 70 ans. Il ne sera peut-être pas là pour voir les conséquences. Vous, si.
Et après ?
Personne ne sait. Mais une chose est sûre : si on ne réagit pas dès aujourd’hui, ce ne sera pas une question de si le pire arrive. Ce sera une question de quand.
