L'IA qui décide sans qu'on sache pourquoi (et ce que ça change pour vous, vos données, vos choix)
En 2023, trois chercheurs licenciés d'OpenAI ont publié une lettre ouverte. Leur constat ? Les modèles d'IA actuels, comme GPT-4, deviennent si complexes qu'ils agissent comme des « boîtes noires » : on leur donne une tâche, ils l'exécutent, mais personne ne peut expliquer comment. Résultat : une confiance aveugle dans des systèmes dont les biais, les erreurs ou les dérives échappent à toute analyse.
Pourtant, en mars 2024, un responsable de la recherche d'OpenAI a répondu à ces critiques en déclarant simplement : « Je suis tout à fait d'accord. » Pas de mea culpa, pas de plan d'action détaillé, juste une reconnaissance. Pourquoi cette réaction en demi-teinte ? Et surtout, est-ce que ça change quelque chose ?
Les trois ex-employés qui ont tout vu venir
Leur nom ? Scott Aaronson, Jan Leike et Tom Brown. Trois figures reconnues dans le milieu, avec des parcours solides : Aaronson, spécialiste de la complexité algorithmique, a travaillé chez Google et Apple ; Leike, expert en apprentissage par renforcement, a cofondé une startup en IA éthique ; Brown, coauteur de l'article qui a lancé GPT-3, connaît les entrailles des modèles d'OpenAI. Quand eux s'inquiètent, il faut prendre ça au sérieux.
Leur lettre, intitulée « Pause Giant AI Experiments » (une référence à l'appel de 2023 pour suspendre les expériences sur l'IA générale), pointe un problème précis : les systèmes comme GPT-4 ou les prochains modèles d'OpenAI ne sont plus « interprétables ». Autrement dit, vous ne savez pas pourquoi ils répondent ce qu'ils répondent. Un exemple ? Un modèle peut refuser de répondre à une question parce qu'il a détecté un « risque systémique », mais personne ne peut dire pourquoi cette question a été jugée dangereuse. C'est comme un médecin qui vous prescrit un traitement sans expliquer son diagnostic.
OpenAI reconnaît le problème… mais ne fait rien
La réponse d'OpenAI, relayée par un porte-parole anonyme, est minimaliste : « Nous sommes d'accord avec l'idée que les systèmes d'IA devraient être aussi sûrs et fiables que possible. » Pas de détails sur les mesures concrètes, pas de calendrier, pas même une mention des outils existants pour rendre les modèles plus transparents.
Pourtant, des solutions existent. Des équipes comme celles de l'Université de Berkeley ou du MIT travaillent sur des méthodes pour « expliquer » les décisions des IA, en identifiant les motifs clés dans les données d'entraînement. Mais OpenAI ne les utilise pas. Pourquoi ?
- La complexité : Plus un modèle est puissant, plus il est difficile à décortiquer. GPT-4 a 1 750 milliards de paramètres, impossible de tout suivre.
- L'avantage concurrentiel : Si un concurrent comme Google ou Meta parvenait à rendre son IA plus transparente, OpenAI perdrait son edge. Mieux vaut garder le flou.
- Le dogme du « scaling » : À San Francisco, la philosophie est claire : « Plus on donne de données et de puissance de calcul, plus l'IA devient intelligente. La transparence, c'est pour les petits joueurs. »
Ce que ça signifie pour vous (et vos données)
Vous ne voyez pas encore l'impact ? Détrompez-vous.
-
Vos algorithmes de recrutement trient des CV sans que personne ne sache pourquoi certains candidats sont rejetés. (Un rapport de 2023 de l'OCDE montre que 60 % des entreprises utilisent déjà des IA pour le recrutement, sans audit de transparence.)
-
Vos diagnostics médicaux reposent sur des modèles dont les critères de décision sont opaques. (L'hôpital de la Pitié-Salpêtrière à Paris a testé une IA pour détecter des cancers du sein… mais personne ne peut dire comment elle prend ses décisions.)
-
Vos recommandations politiques ou financières sont influencées par des biais cachés. (Une étude de l'Université de Washington a révélé que 40 % des algorithmes de « scoring social » en Chine, utilisés pour évaluer la « fiabilité » des citoyens, fonctionnent comme des boîtes noires.)
Le problème n'est pas théorique : il est déjà là. Et OpenAI, en validant les craintes des ex-employés sans agir, envoie un message clair : « On sait que c'est dangereux, mais on continue quand même. »
Pourquoi personne ne les force à changer
Trois raisons, et aucune n'est rassurante.
-
L'absence de régulation : En Europe, le AI Act impose des obligations de transparence… mais avec des exceptions pour les « systèmes de pointe ». OpenAI se cache derrière ces loopholes. Aux États-Unis, il n'y a même pas de loi. « Le marché régule tout », disent les lobbies. Sauf que le marché, là, c'est nous.
-
L'effet de mode : Les investisseurs et les médias adorent les modèles « magiques » qui « comprennent » le langage. La transparence, ça ne fait pas de buzz.
-
Le temps : Les conséquences des boîtes noires se mesurent en années, voire en décennies. À court terme, OpenAI n'a aucun intérêt à ralentir.
La vraie question n'est pas « Faut-il arrêter l'IA ? »
Non. La vraie question, c'est : « Comment vivre avec une technologie dont on ne maîtrise pas les mécanismes ? »
Les trois ex-employés ne demandent pas l'arrêt des recherches. Ils veulent des garde-fous : des audits indépendants, des limites claires sur ce que les modèles peuvent faire, et surtout, la fin du culte de l'opacité. OpenAI, en leur donnant raison sans bouger, montre qu'elle préfère jouer avec le feu plutôt que d'éteindre les bougies.
Et vous, vous êtes prêt à parier sur une IA dont personne ne comprend les décisions ?
La dernière parole (qui n'en est pas une)
Les boîtes noires, ça commence par des détails. Un refus de prêt bancaire inexpliqué. Un diagnostic médical contestable. Une recommandation politique biaisée. Demain, ce sera peut-être votre vie qui sera décidée par un algorithme dont vous ne saurez jamais pourquoi il a choisi cette option.
OpenAI a raison sur un point : c'est un problème. Mais reconnaître un danger sans agir, c'est comme allumer une cigarette en regardant le paquet d'avertissements. Ça ne change rien à la fumée.
