2024 pourrait bien être l’année où on comprend enfin comment pensent les IA

Le jour où on a compris que les IA ne mentaient pas, mais qu’elles ne disaient pas toute la vérité non plus

En 2017, un ingénieur de Google avait sorti une phrase qui avait tout changé : « Les modèles de deep learning sont des boîtes noires opaques. » Sept ans plus tard, on en est toujours là. Sauf que cette fois, un chercheur de l’Université de Montréal, Yoshua Bengio (oui, celui qui a partagé le prix Turing en 2018 pour ses travaux sur les réseaux de neurones), affirme avoir trouvé un moyen de « déchiffrer » le fonctionnement interne des IA génératives. Pas une métaphore. Pas une interprétation. Une méthode concrète, publiée dans Nature cette semaine, qui permettrait enfin de voir ce qui se passe vraiment quand une IA génère un texte, une image ou une prédiction.

Problème : ça ne change rien à la façon dont ces modèles sont utilisés. Pire, ça pourrait tout compliquer.

L’IA qui explique ses délires

Bengio et son équipe ont mis au point une technique qu’ils appellent « probing » (sonde). L’idée ? Injecter des signaux dans les couches profondes d’un modèle comme GPT-4 ou Stable Diffusion, puis observer comment ces signaux sont transformés en sortie. Résultat : pour la première fois, on arrive à cartographier quels neurones s’activent quand une IA produit une réponse. Par exemple, si vous demandez à une IA de décrire un chat, vous pouvez maintenant voir quelles parties du modèle ont été sollicitées pour parler de sa fourrure, de ses griffes, ou de son comportement.

Sauf que.

1. Ça ne marche pas sur tous les modèles. Les IA les plus récentes, celles qui ont avalé des pétaoctets de données, résistent encore. Leurs mécanismes sont trop complexes, trop imbriqués.

2. Ça ne dit pas pourquoi l’IA fait ce qu’elle fait. Vous savez maintenant qu’un neurone X s’active quand l’IA parle de « méchanceté », mais vous ignorez si c’est parce qu’elle a compris le concept… ou parce qu’elle a mémorisé 500 000 exemples de phrases contenant ce mot.

3. Les géants du secteur s’en foutent. OpenAI, Google DeepMind, Meta : aucun n’a réagi publiquement. Pourtant, si cette méthode devient accessible, elle pourrait forcer les régulateurs à exiger des explications. Et ça, personne ne veut.

La faille qui fait tout basculer

Voilà le vrai scoop : cette percée révèle quelque chose de bien plus gênant que l’opacité des IA. Elles ne se comportent pas comme on le croit.

Prenez un exemple concret. En 2023, une étude de l’Université de Washington a montré que les IA génératives inventaient des sources avec une assurance déconcertante. 30 % des « références » produites par ces modèles étaient purement fictives. Pourtant, quand on leur demande « Pourquoi tu cites cette source ? », elles répondent avec une logique implacable : « Parce que c’est pertinent pour le sujet. » Mais elles ne savent pas ce qu’elles disent.

Or, la méthode de Bengio confirme ce doute : les IA ne font pas de liens causaux. Elles associent. Un peu comme un perroquet qui aurait lu toute l’encyclopédie Britannica, mais sans en comprendre un mot. Quand vous leur demandez « Pourquoi le réchauffement climatique est-il dangereux ? », elles énumèrent des risques. Mais si vous leur demandez « Pourquoi ceci est dangereux ? » en pointant un mécanisme précis (la fonte du permafrost, par exemple), elles peuvent très bien inventer une réponse.

Le pire ? Personne ne vérifie.

Le business de l’incompréhension

Pourquoi les géants tech ne sautent-ils pas sur cette découverte ? Parce que l’opacité, c’est leur meilleur argument commercial.

• Pour les entreprises : si une IA fait une erreur (un diagnostic médical, une prédiction boursière), elles peuvent dire « C’est une boîte noire, on ne contrôle pas. » Fin de la discussion.

• Pour les régulateurs : sans transparence, impossible de légiférer. Les lois comme le Digital Services Act en Europe ou l’AI Act peinent à encadrer ce qui n’est même pas compris.

• Pour les utilisateurs : si vous savez qu’une IA peut inventer des sources, des mécanismes, des explications… vous allez moins lui faire confiance. Or, la confiance, c’est ce qui vend.

Chiffre clé : Selon une enquête de Pew Research (2023), seulement 12 % des Américains font totalement confiance aux réponses des IA. Le reste les utilise… mais en se disant « Bon, je vais vérifier quand même. » Problème : quand vous vérifiez, vous tombez souvent sur du vent.

Ce que ça change (et ce que ça ne change pas)

La méthode de Bengio, c’est un peu comme si on avait enfin ouvert le capot d’une voiture… pour découvrir que le moteur est un fouillis de câbles et de composants dont personne ne maîtrise vraiment l’assemblage.

Ce qui change :

• On sait maintenant que les IA ne raisonnent pas. Elles simulent. La différence est cruciale.
• Les chercheurs en sécurité (cybersécurité, désinformation) vont pouvoir cibler les failles avec une précision inédite. Par exemple, si vous voulez piéger une IA pour qu’elle génère de la haine, vous savez maintenant quels neurones activer.

Ce qui ne change pas :

• Rien dans l’utilisation grand public. Vous allez continuer à demander à ChatGPT d’écrire vos mails, à MidJourney de générer vos visuels, sans savoir si c’est du brouillon ou du génie.
• Aucune obligation légale. Les États traînent déjà pour réguler les IA. Avec cette percée, ils auraient une raison de plus… mais ils n’en profiteront pas.
• Le pouvoir des géants. OpenAI et consorts vont continuer à entraîner des modèles plus gros, plus opaques, parce que c’est là qu’ils font leurs profits.

La question qui tue

Si demain, on pouvait forcer une IA à expliquer chaque décision, chaque association, chaque « logique »… est-ce qu’on voudrait vraiment le savoir ?

Parce que voici le vrai danger : et si on découvrait que ces modèles ne font pas que copier ou extrapoler ? Et s’ils commençaient à créer des liens que personne ne comprend ?

Pas de la conscience. Pas de la malice. Juste… une forme d’autonomie dans l’association d’idées. Assez pour produire des réponses crédibles, mais fausses. Assez pour manipuler, sans le vouloir. Assez pour que personne ne puisse plus faire la différence.

Bengio lui-même l’admet dans son papier : « Nous sommes en train de perdre le contrôle, pas parce que les IA deviennent intelligentes, mais parce qu’elles deviennent incompréhensibles à grande échelle. »

Et maintenant ?

Attendez-vous à deux choses dans les mois qui viennent :

1. Un silence assourdissant des géants tech. Ils vont tester cette méthode en interne, l’améliorer, et la garder pour eux. Parce que si vous pouvez décrypter une IA, vous pouvez aussi la contourner. Et ça, c’est leur pire cauchemar.

2. Une course aux armes. Les États et les entreprises vont commencer à exiger des explications pour les IA critiques (santé, justice, défense). Mais comme personne ne sait vraiment comment faire, ça va virer au bras de fer.

Dernière pensée : On a passé des décennies à dire « Les IA, c’est comme des enfants : il faut les éduquer. » Sauf que non. Ce ne sont pas des enfants. Ce sont des miroirs déformants. Et le jour où on aura compris à quel point ils déforment la réalité… il sera peut-être trop tard pour les recadrer.

Pas de conclusion pompeuse. Juste une question.

La prochaine fois que vous demanderez à une IA « Pourquoi la guerre en Ukraine est-elle compliquée ? », vous vous souviendrez de cette méthode. Et vous vous demanderez : est-ce qu’elle vous répond parce qu’elle sait… ou parce qu’elle a lu 50 millions de tweets sur le sujet ?