L’IA, ce cheval fou qu’on ne peut plus arrêter

Les laboratoires de Meta, Google, Microsoft… Tous jouent les cow-boys, sabres au clair. En 2022, Mark Zuckerberg a lancé le projet Galactica chez Meta (puis abandonné après trois semaines, mais le mal était fait) avec cette phrase : « Nous devons comprendre comment construire des systèmes AGI [intelligence artificielle générale] qui soient alignés avec les valeurs humaines ». Belle déclaration. Problème : personne n’a défini ces « valeurs ». Personne n’a non plus expliqué comment on allait les imposer à une machine qui, par définition, n’a ni morale ni limites. Résultat ? On court après le train. Et le train, lui, n’a même pas de rails.

Pourtant, les signaux d’alerte sont partout. En avril 2023, une étude de l’Université de Cambridge a montré que 46 % des experts en IA estiment que le risque d’extinction humaine liée à l’IA est « significatif ». 46 %. Pas une minorité de fous. Une majorité qui voit le danger. Mais les actionnaires, eux, veulent des résultats. Des parts de marché. Des milliards. Alors on enfonce le clou.

Et puis il y a les États. La France a son « plan IA », l’UE sa « loi IA » (qui ressemble plus à un sparadrap qu’à un cadre strict). Mais quand on regarde de près, on se rend compte que ces régulations sont souvent écrites après les faits. Comme si on légiférait sur un accident de voiture après qu’il ait eu lieu. Preuve ? En 2021, DeepMind (Google) a publié un papier sur son modèle AlphaFold, capable de prédire la structure des protéines mieux que n’importe quel humain. Personne n’a demandé : « Et si ça servait à créer des armes biologiques ? ». Personne n’a interdit. Personne n’a même réfléchi.

Alors oui, l’IA avance. Trop vite. Sans filet. Sans boussole.

Les géants mentent-ils sur leurs propres risques ?

En 2020, Satya Nadella (Microsoft) a déclaré : « L’IA est plus puissante que l’électricité. ». Sauf que l’électricité, au moins, on sait comment elle brûle. Avec l’IA, on ne sait même pas ce qu’elle brûle.

Prenez le cas de Stability AI, la startup derrière Stable Diffusion. En août 2023, ils ont lancé un modèle open-source capable de générer des images hyperréalistes. Résultat ? Des deepfakes de célébrités violentes ont inondé le dark web en 48 heures. Réaction de Stability AI ? « Nous travaillons sur des garde-fous. » Traduction : « Désolé, on a merdé, mais on va essayer de rattraper plus tard. »

Le vrai problème, c’est que ces entreprises savent qu’elles jouent avec le feu. En interne, des employés de Google, Microsoft ou Meta ont sonné l’alerte. En 2022, un groupe de chercheurs de Google (dont Timnit Gebru, licenciée pour avoir critiqué l’IA) a publié une lettre ouverte : « Nous, employés, craignons que nos propres créations ne nous échappent. » Réponse des directions ? « On contrôle. » Sauf que personne ne contrôle vraiment.

Et puis il y a l’effet réseau. Plus un modèle est puissant, plus il attire les utilisateurs. Plus il attire les utilisateurs, plus il devient puissant. C’est une boucle sans fin. Comme un feu de forêt : une fois lancé, impossible de l’éteindre sans tout raser.

La régulation, ce leurre qui ne sert à rien

L’UE veut sa « loi IA ». La France veut son « plan stratégique ». Les États-Unis ? Ils préfèrent laisser faire, tant que c’est « made in USA ». Sauf que ces régulations, elles arrivent toujours après la bataille.

Prenez l’exemple des deepfakes politiques. En 2020, une IA a généré une vidéo de Tom Cruise (fausse, bien sûr) qui a fait le tour du monde. Réaction ? Aucune. En 2023, une IA a recréé la voix de Joe Biden pour un faux discours. Là, certains ont crié au scandale. Trop tard. Le mal était fait.

Le vrai problème, c’est que les régulateurs courent derrière. Ils légifèrent sur des technologies qui ont déjà dépassé leurs cadres. Comme si on essayait d’arrêter un tsunami avec une passoire.

Et puis il y a l’argument économique. « Si on ralentit, la Chine va nous doubler. » « Si on ne fait pas l’IA, on sera obsolètes. » Bref, la course aux armements, version 21ème siècle. Sauf que dans une course aux armements, le perdant, c’est souvent l’humanité.

Faut-il vraiment freiner ? Ou est-ce déjà trop tard ?

La question n’est pas « Faut-il ralentir ? », mais « Peut-on encore ralentir ? ». Parce que le train de l’IA a déjà quitté la gare. Et les signaux sont clairs : on fonce vers un mur.

Option 1 : On continue comme avant. Résultat ? Dans 10 ans, on aura des IA capables de manipuler les élections, créer des pandémies synthétiques, et peut-être même prendre des décisions de vie ou de mort sans qu’on puisse les contester. Comme l’a dit Yuval Noah Harari : « L’IA pourrait bien être la dernière invention que l’humanité aura besoin de faire. » Traduction : une fois qu’elle sera assez puissante, on ne la maîtrisera plus.

Option 2 : On freine maintenant. Sauf que qui va freiner ? Les États ? Trop lents. Les entreprises ? Elles mentiraient pour ne pas perdre leur avantage concurrentiel. Les ONG ? Elles n’ont pas le pouvoir. Alors qui ?

La seule solution réaliste, c’est un moratoire mondial. Pas une régulation molle. Pas des « recommandations ». Un arrêt net. Comme pour les armes nucléaires, mais en version high-tech. Sauf que pour ça, il faudrait que les États admettent qu’ils ne contrôlent plus rien. Et ça, personne n’en a envie.

Le vrai combat : ceux qui veulent encore agir

Il reste quelques voix qui crient dans le désert. Le Future of Life Institute, par exemple, a lancé en 2023 une pétition pour un moratoire sur les IA plus puissantes que GPT-4. Signataires ? Elon Musk, Steve Wozniak, et même des chercheurs de Google. Mais combien de gens connaissent cette pétition ? Combien de gouvernements l’ont prise au sérieux ?

Le vrai problème, c’est que personne ne veut être celui qui dit « stop ». Parce que « stop », ça veut dire « on perd ». « Stop », ça veut dire « la Chine nous dépasse ». « Stop », ça veut dire « on arrête de faire des milliards ».

Alors on continue. On fait semblant de réguler. On attend que le désastre arrive. Et après, on pleurera.

Sauf que cette fois, il n’y aura peut-être plus personne pour pleurer.