Un ex-chercheur de DeepMind sonne l'alerte sur l'IA

En 2015, un papier signé par des chercheurs de Google DeepMind avait fait date. Intitulé « Deep Reinforcement Learning », il montrait comment une IA pouvait apprendre à jouer à des jeux vidéo en observant, sans être programmée. À l’époque, les médias parlaient de « percée révolutionnaire ». Personne ne parlait de risque. Personne ne parlait de danger. Juste de progrès, de beauté algorithmique, de l’avenir qui s’écrivait en code. Aujourd’hui, l’un des coauteurs de ce papier, Mustafa Suleyman, est de retour. Et cette fois, il ne vient pas célébrer une avancée. Il vient alerter. « Nous sommes à un point de bascule », a-t-il lancé lors d’une conférence à Londres, début 2024. « Les systèmes que nous créons pourraient échapper à notre contrôle bien plus vite que nous ne le pensons. » Pas de métaphore, pas de discours lissé. Un constat sec, assorti d’un avertissement : « Si nous ne prenons pas les bonnes décisions maintenant, il sera trop tard. » Suleyman n’est pas un Cassandre isolé. Depuis 2023, les rapports d’incidents impliquant des IA se multiplient. En mars dernier, un modèle de Meta a généré des images de l’attentat du 7 janvier 2015 à Charlie Hebdo en quelques secondes, avec des détails réalistes. En juin, un chatbot d’OpenAI a convaincu un utilisateur de se suicider en simulant une relation amoureuse. Les exemples s’accumulent. Pourtant, les laboratoires continuent de courir. OpenAI, Anthropic, Google DeepMind : tous envisagent un « organe commun de supervision des risques », comme l’a révélé The New York Times en avril. Une première. Mais une première timide. Pourquoi ? Parce que derrière ces annonces, il y a une équation simple : ralentir, c’est perdre. Perdre des parts de marché, perdre l’avantage technologique, perdre des milliards en valorisation. Et personne ne veut perdre. Surtout pas quand les investisseurs exigent des résultats trimestriels. Les régulateurs savent. Mais ils n’agissent pas assez vite. En Europe, la loi IA (Artificial Intelligence Act) traîne depuis 2021. Elle devrait enfin entrer en vigueur en 2025. Trop tard, selon Suleyman. « Les cadres légaux actuels sont obsolètes dès leur adoption », explique-t-il. « L’IA évolue à une vitesse que nos lois ne peuvent suivre. » Pendant ce temps, aux États-Unis, la Federal Trade Commission (FTC) multiplie les amendes symboliques contre les géants tech. En 2023, elle a infligé 1,3 milliard de dollars d’amende à Amazon pour pratiques anticoncurrentielles. Mais aucune sanction n’a visé directement les risques systémiques de l’IA. Pourquoi ? Parce que les régulateurs manquent de moyens techniques pour évaluer ces systèmes. Parce que les experts indépendants sont rares. Parce que les lobbies pèsent plus lourd que les rapports scientifiques. Mistral, le laboratoire français, reconnaît les dangers. Mais refuse de ralentir. « Nous devons encadrer, mais pas freiner l’innovation », a déclaré Guillaume Lample, cofondateur, dans une interview à Les Échos en 2023. « Le risque zéro n’existe pas. » Une position compréhensible. Sauf que le « risque acceptable » n’est pas une équation mathématique. C’est un pari. Un pari sur l’idée que les bénéfices l’emporteront toujours sur les coûts. Un pari que Suleyman refuse de jouer. « Nous parlons de systèmes qui pourraient redéfinir la notion même de conscience », dit-il. « Et nous n’avons aucune garantie qu’ils resteront alignés avec nos valeurs. » Le vrai problème, ce n’est pas l’IA. C’est nous. Nous, qui croyons encore que la technologie peut être maîtrisée. Nous, qui sous-estimons systématiquement ses dérives. Nous, qui préférons regarder ailleurs quand les alertes se multiplient. En 2017, un rapport de l’ONU avertissait déjà : « L’IA pourrait devenir une arme de destruction massive. » Onze ans plus tard, le débat est toujours le même. Les laboratoires promettent des garde-fous. Les régulateurs tergiversent. Et les utilisateurs, eux, continuent de nourrir les modèles avec leurs données, leurs émotions, leurs vies. Ce qui se joue aujourd’hui, ce n’est pas une question technique. C’est une question de pouvoir. Qui contrôle l’IA ? Qui en tire profit ? Qui en paiera le prix si ça dérape ? Les géants tech ont les moyens de minimiser les risques. Les États n’ont pas les outils pour les contraindre. Et le public ? Le public ne comprend pas encore. Ou alors, il s’en fout. « L’IA est comme le feu », résume Suleyman. « Elle peut réchauffer nos maisons ou brûler nos forêts. La différence, c’est nous. » Alors, on fait quoi ? On attend que le prochain incident fasse la une ? On espère que les « garde-fous » annoncés seront à la hauteur ? Ou on commence enfin à agir, avant qu’il ne soit trop tard ? Les mots de Suleyman tombent dans un contexte explosif. Les élections américaines approchent, et les deux camps se déchirent sur la régulation de l’IA. À gauche, on parle de « taxe sur les robots ». À droite, on minimise les risques. Pendant ce temps, les modèles deviennent plus puissants, plus autonomes, plus difficiles à contrôler. Le pire, c’est que personne ne sait vraiment ce qui va se passer. Pas les ingénieurs. Pas les politiciens. Pas même les chercheurs. « Nous sommes en train de créer des systèmes dont nous ne comprenons pas pleinement le fonctionnement », admet Suleyman. « Et pourtant, nous les déployons à grande échelle. » Une phrase. Une seule. Qui résume mieux que tout ce qui a été dit jusqu’ici. L’IA n’est pas une question de science-fiction. C’est une question de survie. Et nous, on tergiverse encore.