2024 pourrait bien être l'année où l'IA perd son secret le plus gardé

2024 pourrait bien être l'année où l'IA perd son secret le plus gardé

Le 12 mars, un compte Twitter anonyme sous le pseudo mrwho a posté un lien. Pas un message, pas une provocation : juste un fichier compressé de 1,2 Go, accompagné d’une phrase sèche : « Voici le code de Mistral, pour ceux qui veulent comprendre comment ça marche. » Pas de preuve visible, pas de démonstration en direct, rien. Juste cette affirmation, comme un défi lancé à des murs de silence. Dans les heures qui ont suivi, les équipes de Mistral AI ont confirmé : « Nous sommes en contact avec les autorités. » Traduction : on ne va pas commenter, on va faire comme si de rien n’était. Sauf que cette fois, c’est différent.

Pourquoi ? Parce que cette fuite n’est pas une première. Parce que les modèles d’IA grand public, même ceux qui coûtent des centaines de millions à entraîner, reposent sur des lignes de code souvent accessibles, modifiables, volables. Et parce que cette fois, le hacker a ciblé le cœur du problème : pas les données, pas les serveurs, mais l’ADN même de l’entreprise. Le code source, c’est comme voler la recette secrète du Coca-Cola… sauf que là, c’est pire. Parce que personne ne sait vraiment qui détient cette recette.

Le hacker qui a tout pris, sans rien voler vraiment

Mrwho n’est pas un inconnu. Depuis 2022, ce pseudo revient régulièrement dans les cyberattaques contre des labs d’IA, notamment en ciblant des modèles open-source. Mais cette fois, il vise un géant français, protégé par des murs qui coûtent cher. Comment a-t-il fait ?

Les détails techniques restent flous. Pas de ransomware, pas de demande de rançon. Juste un fichier, et une méthode qui ressemble étrangement à celles utilisées contre des cibles comme Stability AI ou Hugging Face : exfiltration de données via des vulnérabilités dans les pipelines de développement. « Ils laissent traîner des clés SSH non sécurisées, des accès temporaires oubliés, des bases de données mal protégées », explique un ingénieur en cybersécurité qui a requis l’anonymat. « L’IA, c’est comme un gratte-ciel en construction : tout le monde court après les dernières innovations, mais personne ne vérifie les fondations. »

Le pire ? Mistral AI n’est pas une start-up. L’entreprise a levé 340 millions de dollars en 2023, avec des investisseurs comme Google et Microsoft dans la poche. Des sommes qui devraient, théoriquement, permettre de payer des experts en sécurité. Alors pourquoi cette faille ?

Une piste : la course à la performance. « Quand tu es dans la course contre OpenAI ou Meta, tu optimises tout, même la sécurité », confie un ancien employé d’un lab français. « Les équipes code tournent à 150 %, les audits sont réduits au minimum. » Résultat : des failles qui auraient pu être corrigées il y a six mois sont toujours là. Et mrwho les a trouvées.

Le code source, ce leurre qui cache tout

Voilà le paradoxe : le code de Mistral, comme celui de la plupart des modèles d’IA modernes, n’est pas le vrai secret. Ou plutôt, il l’est… et il ne l’est pas.

Prenez Llama 2 de Meta. Son code est open-source. Pourtant, personne ne sait vraiment comment il fonctionne, car une partie des poids du modèle (les paramètres qui donnent à l’IA sa « personnalité ») reste fermée. Même chose pour Mistral : le code publié par mrwho correspond probablement à des versions anciennes, ou à des parties non critiques. « Le cœur du modèle, les couches les plus profondes du réseau de neurones, reste sous cloche », précise un chercheur en IA. « Ce que mrwho a peut-être, c’est du code d’interface, des scripts d’entraînement, des bibliothèques tierces. Pas le graal. »

Alors pourquoi cette fuite fait-elle trembler ? Parce qu’elle révèle une vérité gênante : personne ne contrôle vraiment l’IA.

Les modèles comme Mistral ou GPT sont des monstres auto-apprenants. Leurs créateurs comprennent une partie du mécanisme, mais pas le tout. Et même si le code était entièrement public, il faudrait des années à des équipes entières pour le décortiquer. « C’est comme donner les plans d’un avion à un mécanicien : il sait comment ça marche, mais pas pourquoi ça vole », illustre un data scientist.

Sauf que cette fois, le risque n’est pas seulement théorique. Si mrwho a bien accès à des parties sensibles, il pourrait :

• Saboter des versions futures en introduisant des backdoors (des portes dérobées) dans le code.
• Reproduire des modèles concurrents en utilisant des techniques de model extraction (vol de modèle par entraînement parallèle).
• Faire du chantage en menaçant de publier des lignes de code critiques… ou pire, des données d’entraînement sensibles (même si Mistral dit n’avoir utilisé que des données publiques).

Le vrai danger ? Ce n’est pas ce que mrwho a, mais ce que personne ne maîtrise.

L’IA, ce château de cartes qui s’effondre sans bruit

Il y a un détail qui cloche dans cette affaire : personne ne panique vraiment.

• Les investisseurs ? Silence radio. « Une cyberattaque, c’est mauvais pour l’image, mais bon… » (source : proche d’un fonds VC).
• Les régulateurs ? Rien. Pas de communiqué de l’ANSSI, pas d’avertissement de la CNIL. « L’IA n’est pas encore régulée comme un secteur critique », rappelle un juriste spécialisé. « On attend un scandale pour agir. »
• Les concurrents ? Zéro réaction publique. Même Google ou OpenAI se taisent. Comme si cette fuite était… normale.

Pourtant, cette affaire devrait déclencher une crise. Parce qu’elle expose une faille systémique : l’IA grand public est un château de cartes.

1. Les données d’entraînement : Même si Mistral dit utiliser que du public, des études (comme celle de Stanford en 2023) montrent que des modèles comme Llama ou GPT intègrent des données sensibles via des fuites indirectes. Une faille dans le pipeline = des données privées exposées.

2. Les dépendances tierces : Les modèles d’IA reposent sur des bibliothèques open-source (comme Hugging Face Transformers). Une faille dans l’une d’elles = une faille dans tous les modèles qui l’utilisent. En 2021, une vulnérabilité dans Log4j a mis en danger des milliers d’entreprises. L’IA, elle, n’a pas eu ce genre de réveil brutal.

3. L’effet domino : Si un acteur comme Mistral est compromis, c’est tout l’écosystème qui l’est. Parce que les modèles s’entraînent les uns sur les autres. « Une faille chez Mistral peut contaminer Meta, qui peut contaminer Google… » résume un expert.

Alors pourquoi personne ne bronche ? Parce que l’IA, pour l’instant, ne coûte pas assez cher.

Pas de mort, pas de panique. Juste des milliards en moins, des retards sur des projets, et une réputation ternie. « Dans le monde de la tech, une fuite de code, c’est comme une rumeur sur Twitter : ça fait du bruit, mais ça passe », lâche un ancien de DeepMind.

Sauf que cette fois, la rumeur pourrait devenir un incendie.

Le vrai problème n’est pas technique, c’est humain

Le code de Mistral n’est pas le vrai enjeu. Le vrai enjeu, c’est la gouvernance.

• Qui décide des règles ? Aujourd’hui, personne. Les labs d’IA agissent comme des États-nations numériques : ils font leurs propres lois, leurs propres audits, leurs propres choix éthiques (ou leur absence).
• Qui paiera les conséquences ? Si un modèle biaisé cause un licenciement massif ? Si une faille de sécurité mène à une crise géopolitique ? Les utilisateurs, comme d’habitude.
• Qui a les clés ? Pas les régulateurs. Pas les utilisateurs. Juste une poignée d’ingénieurs qui partent, changent d’avis, ou se font racheter par des fonds privés.

Cette fuite est un symptôme. Le symptôme d’un secteur qui grandit sans filet, sans garde-fous, sans même une vraie culture de la sécurité. « On est dans le Far West de l’IA », résume un ancien de Scale AI. « Tout le monde court après l’or, mais personne ne vérifie si la mine va s’effondrer. »

Le pire ? Personne ne sait qui est mrwho.

Est-ce un hacktiviste ? Un concurrent ? Un État ? Une équipe interne mécontente ? Les hypothèses fusent, mais aucune preuve. Et c’est ça, le vrai problème : dans l’IA, l’opacité est une stratégie.

Mistral va probablement sortir un communiqué dans les jours qui viennent. « Nous renforçons nos mesures de sécurité. » Traduction : on a ajouté deux facteurs d’authentification. Trop tard.

Parce que le vrai code source de l’IA, ce n’est pas celui qu’on écrit. C’est celui qu’on ne contrôle pas.

2024, l’année où tout bascule ?

Cette affaire pourrait être un simple incident. Ou le début d’une prise de conscience.

• Si les régulateurs finissent par s’emparer du dossier, on pourrait voir les premières lois contraignantes sur la transparence des modèles.
• Si un acteur majeur (Google, Meta) est la prochaine cible, la panique pourrait monter.
• Si mrwho publie vraiment quelque chose de compromettant, la confiance dans l’IA pourrait s’effriter.

Mais une chose est sûre : l’IA ne sera jamais aussi sûre qu’on le croit.

Parce que le code, on peut le verrouiller. Les données, les biais, les dépendances, eux, restent des fantômes. Et les fantômes, on ne les attrape pas avec des pare-feu.

Alors oui, cette fuite est grave. Mais pas pour les raisons qu’on imagine.

Elle révèle simplement que l’IA, pour l’instant, n’appartient à personne. Et que personne ne sait vraiment ce qu’elle cache.

Et ça, c’est bien plus dangereux qu’un fichier volé.