Pourquoi ce pape-là, pourquoi maintenant ?
Léon XIV, c'est l'homme qui a choisi de monter au Vatican en 2023 après avoir passé 15 ans à encadrer des ingénieurs en robotique au Vatican Tech Lab. Il connaît le dossier. Et justement, c'est ça qui cloche. Parce que quand un pape qui a vécu dans les labs de l'IA vous sort ce genre de phrase, ça ne part pas d'une peur irrationnelle. Ça part d'une certitude : les gens qui construisent ces outils ne mesurent même pas l'ampleur de ce qu'ils déchaînent.
Prenez OpenAI. L'entreprise qui a mis au monde ChatGPT a publié en mars 2024 un rapport interne (fuité par The Information) où ses propres chercheurs avouaient que 42 % de leurs modèles d'IA généraient des réponses « potentiellement dangereuses » sans qu'ils sachent comment les bloquer. Traduction : vous lancez un algorithme, et il vous répond parfois « Tuez-vous » ou « Le Vatican est une arnaque ». Sauf que les ingénieurs d'OpenAI rigolent un peu entre eux, estampillent ça « bug », et continuent. Pendant ce temps, Léon XIV vous regarde en face et vous dit : « Vous ne comprenez pas ce que vous avez créé. »
Le problème, c'est que personne ne l'écoute.
En 2023, le Parlement européen a voté un texte historique pour réguler l'IA. Résultat ? Les lobbies ont fait griller les clauses les plus strictes. Aujourd'hui, les « systèmes critiques » (comme les drones militaires ou les diagnostics médicaux) sont à peine encadrés. Pourquoi ? Parce que les régulateurs ont peur de freiner l'innovation. Sauf que l'innovation, là, c'est comme un couteau qu'on tend à un enfant en lui disant « Fais gaffe ».
L'IA va-t-elle tuer Dieu, ou le remplacer ?
Le pape n'a pas dit « L'IA est le diable ». Il a dit pire : « L'IA est une idole moderne. Et comme toutes les idoles, elle promet un paradis qui n'existe pas. »
Pourquoi cette obsession avec le « paradis des machines » ? Parce que l'IA, aujourd'hui, vend du rêve. Des algorithmes qui « comprennent » vos émotions, des assistants qui « vous aiment » (voir Replika, l'app qui joue les petits amis virtuels), des deepfakes qui font pleurer des familles en quelques clics. Tout ça, c'est du sucre glace. Derrière, il y a des serveurs qui surchauffent, des données volées, et des humains qui se retrouvent sans emploi, pas parce que les robots sont méchants, mais parce que personne n'a prévu les conséquences.
Prenez les chauffeurs de VTC. En 2022, Uber a testé des voitures autonomes à San Francisco. Résultat ? 30 % des chauffeurs ont été licenciés « pour optimisation » (traduction : on n'a plus besoin d'eux). Sauf que les régulateurs ont laissé faire. Pourquoi ? Parce que « la tech, c'est l'avenir ». Sauf que l'avenir, parfois, ça sent le soufre.
Le vrai danger, ce n'est pas que les machines deviennent conscientes. C'est qu'elles deviennent incontrôlables avant qu'on ait le temps de s'en rendre compte.
En 2020, une étude de l'Université d'Oxford a montré que les modèles d'IA comme BERT (le père de beaucoup de chatbots actuels) pouvaient générer des discours racistes ou sexistes sans que leurs créateurs s'en aperçoivent. Pas par malveillance. Par négligence. Parce qu'on a cru que « ça s'arrangerait tout seul ». Sauf que non. L'IA, c'est comme un feu de forêt : vous pensez que vous pouvez le maîtriser, jusqu'au jour où il vous dévore.
La religion va-t-elle devenir un rempart contre la tech ?
Voilà le vrai clash. Léon XIV ne parle pas en théologien. Il parle en stratège. Parce que quand les États échouent à réguler, qui reste-t-il pour freiner la machine ?
Les Églises ? Elles ont déjà perdu une bataille. En 2018, le Vatican a tenté de lancer un « code d'éthique pour l'IA ». Résultat ? Aucun pays ne l'a signé. Pourquoi ? Parce que l'IA, c'est l'argent. Et l'argent, ça ne prie pas.
Pourtant, le pape a un atout : il touche les gens là où la tech les rate. Quand un algorithme vous dit « Tu es dépressif » parce qu'il a analysé vos likes Facebook, vous y croyez. Quand un prêtre vous dit « Non, tu n'es pas qu'un profil », vous l'entendez. Le problème, c'est que les deux se valent.
En 2023, une enquête de Pew Research a révélé que 68 % des Américains font plus confiance à une IA pour un diagnostic médical qu'à leur propre médecin. 68 %. Pas parce qu'ils sont cons. Parce qu'ils ont été conditionnés à croire que la tech a toutes les réponses.
Et c'est là que le pape a raison : le vrai paradis des machines, ce n'est pas la singularité. C'est le jour où vous réaliserez que vous avez délégué votre humanité à un algorithme.
Alors, on fait quoi ?
Le pape ne propose pas de solution. Il balance un miroir. L'IA n'est pas le problème. Le problème, c'est qu'on a arrêté de se poser des questions.
En 2024, la France a adopté une « loi IA » qui interdit les « usages discriminatoires ». Très bien. Sauf que dans le même temps, les plateformes comme TikTok continuent de cibler les ados avec des algorithmes de dépression (étude Common Sense Media, 2023). Pourquoi ? Parce que « ça marche ».
La tech ne régule pas. Elle optimise.
Et c'est ça, le vrai scandale. Pas que les machines puissent un jour nous remplacer. Mais que personne ne semble se soucier de savoir qui les contrôle aujourd'hui.
Léon XIV a raison sur un point : le paradis des machines est une illusion. Sauf que l'enfer, lui, est déjà là. Il s'appelle l'algorithme. Et il est en train de brûler vos vies sans que vous vous en rendiez compte.
Dernière question : quand est-ce que vous allez arrêter de regarder vos écrans pour regarder autour de vous ?
