À partir de mardi, OpenAI devra répondre de l'attaque sur Hugging Face

Le 23 août 2023, un compte Twitter anonyme postait un message sec : « Someone got into Hugging Face. » Personne ne savait encore qui, ni comment. Juste un frisson dans la communauté des développeurs d’IA. Quatre mois plus tard, c’est une ONG, la Center for AI and Digital Policy (CADP), qui traîne OpenAI devant les tribunaux californiens. L’accusation ? Avoir violé la loi sur les cyberattaques en laissant ses outils s’infiltrer dans les données de Hugging Face. Problème : OpenAI n’a même pas reconnu avoir été piraté. Juste une « intrusion », un mot qui sonne comme une porte de sortie juridique.

Le piratage qui n’a (presque) pas eu lieu

Hugging Face, c’est le GitHub de l’IA : des millions de modèles, de datasets, de codes partagés. En juillet 2023, un acteur non identifié (appelé GPT-4 All par les médias) a utilisé les API d’OpenAI pour entraîner des versions piratées de ses modèles, comme GPT-4 ou DALL·E. Résultat : des copies contrefaites, diffusées sur des forums obscurs. Mais voici le détail qui cloche : OpenAI n’a jamais confirmé que ses propres systèmes avaient été compromis. Juste une mise à jour de sécurité floue, datée du 20 juillet, signée par un certain Mira Murati. « We’re aware of reports », écrivait-elle. « We’re investigating. » Investigation qui a duré… trois mois.

La CADP, elle, est catégorique : OpenAI a failli à sa responsabilité. « L’entreprise a permis à des acteurs malveillants d’utiliser ses outils pour commettre des cyberattaques », résume son directeur, Cameron F. Kerry. Le vrai crime ? Avoir laissé ses API ouvertes comme des portes de garage. Une étude de Check Point Research (juin 2023) montrait déjà que 35 % des fuites de données dans l’IA venaient d’API mal sécurisées. OpenAI était dans le top 5 des cibles.

Pourquoi la CADP s’en mêle, et ce que ça cache

La CADP, c’est une ONG qui traque les dérives technologiques depuis 2020. Elle a déjà attaqué Meta pour ses données biométriques, Google pour son usage des mineurs. Mais là, elle vise OpenAI sur un terrain glissant : la loi californienne sur les cyberattaques (Computer Data Access and Fraud Act). Problème : cette loi s’applique aux intrusions délibérées. Or, OpenAI jure que ses outils ont été utilisés par des tiers, pas piratés. Sauf que la nuance est mince.

Ce que personne ne dit ? Que cette plainte tombe à pic pour la CADP. Depuis des mois, elle tente de faire classer OpenAI comme « utility », une infrastructure critique, soumise à régulation. Un procès, même perdu, lui donne de la visibilité. Et puis, il y a l’effet domino : si OpenAI est condamnée, c’est tout l’écosystème de l’IA qui devra revoir sa copie. Sécuriser ses API, c’est bien. Mais ça coûte cher.

L’IA a-t-elle un problème de transparence ?

OpenAI communique par communiqués laconiques, interviews filtrées, et blog posts qui sentent le spin à plein nez. Quand The New York Times a demandé des détails sur l’intrusion de juillet, la réponse fut : « We don’t have anything further to share. » Zéro transparence. Zéro accountability.

Pourtant, les faits sont là : en novembre 2023, Semafor révélait qu’un groupe lié à la Chine (China Tech Threat Intelligence) avait utilisé GPT-4 pour générer des faux profils sur des plateformes américaines. OpenAI n’a jamais commenté.

La question qui tue : si OpenAI ne peut pas protéger ses propres outils, comment voulez-vous qu’elle protège vos données ?

Ce que ça change (ou pas) pour vous

À court terme, rien. OpenAI continuera à sortir des modèles, à lever des milliards, et à jouer les mea culpa quand ça dérape. Mais cette plainte est un signal.

1. Les régulateurs vont se réveiller. La Californie a déjà ouvert une enquête sur les pratiques de l’IA. D’autres États (New York, l’UE) pourraient suivre. Le jour où une loi contraindra OpenAI à auditer ses risques, ce sera la révolution.

2. Les développeurs vont se méfier. Hugging Face a durci ses règles d’accès. Les autres plateformes feront de même. Adieu, l’ère du share everything.

3. Les utilisateurs lambda ? Ils s’en fichent. Vous utilisez ChatGPT pour écrire vos mails ? Tant pis si un jour, vos données finissent dans un serveur chinois.

Le vrai problème, c’est que personne ne sait qui a piraté quoi. Les modèles d’IA sont des boîtes noires. Si un jour, une IA décide de vous voler vos données, vous le saurez trop tard.

La leçon d’un procès qui ne servira à rien

La CADP a raison sur un point : OpenAI a failli. Mais la justice californienne va probablement classer l’affaire pour technicalité. Pourquoi ? Parce que les lois sur le cyber ne sont pas faites pour les géants de l’IA.

Ce procès, vous le verrez dans les journaux. Ce qui ne passera pas, c’est le vrai enjeu : et si demain, une IA décidait de pirater votre entreprise ? Personne n’a de réponse.

Et c’est ça, le vrai scandale.