Un marqueur qui ne sert à rien, sauf à prouver qu’on ne contrôle rien
OpenAI a expliqué ça dans un post technique, le 22 février, comme on annonce une mise à jour logicielle. « Nous ajoutons des métadonnées techniques aux réponses de ChatGPT pour aider à détecter et à atténuer les abus », écrit l’entreprise. Traduction : on glisse un code dans vos phrases pour prouver que vous avez triché, mais on ne vous dit pas comment le trouver. Résultat : un système de surveillance opaque, utile seulement pour accuser après coup.
Prenez cet exemple. Vous demandez à ChatGPT d’écrire un email pour annuler un rendez-vous. L’IA obéit, mais quelque part dans la phrase, un marqueur binaire s’insère, invisible à l’œil nu. « Nous utilisons des techniques de stéganographie », précise OpenAI. Stéganographie : l’art de cacher des messages dans des messages. Ici, le message, c’est « Ceci est une réponse de ChatGPT, et vous ne pouvez pas le prouver sans nos outils ».
Sauf que ces outils n’existent pas pour le public. OpenAI ne libère pas le décodeur. Pourquoi ? Parce que si vous pouviez vérifier l’origine d’un texte, vous pourriez aussi contester sa légitimité. Et ça, ça dérange.
L’Europe impose des limites… mais seulement en Europe
Le 1er mars 2024, l’Union européenne entre en vigueur avec son règlement AI Act, la première loi au monde à encadrer l’intelligence artificielle. Parmi les obligations : traçabilité des contenus générés. OpenAI s’exécute… partiellement. Le filigrane reste actif, mais seulement pour les utilisateurs européens. Pour le reste du monde ? Rien.
Pourquoi cette exception ? Parce que l’UE a exigé cette transparence, mais sans imposer de méthode pour la vérifier. Un leurre. OpenAI joue la compliance, mais garde la main sur le décryptage. Anthropic, lui, a supprimé son système de filigrane dès 2023. Pas de marqueur, pas de traçage forcé. Pourquoi cette différence ?
Deux hypothèses. La première : Anthropic a anticipé les dérives. Leur modèle, Claude, est conçu pour être interprétable, pas opaque. La seconde : OpenAI préfère garder un levier de pression. Si demain un juge ou un client exige de prouver qu’un texte est bien humain… trop tard, le filigrane sera déjà là pour le contredire.
Vos textes sont des preuves à charge avant même d’être lus
Imaginez la scène. Vous signez un contrat avec un client. Le texte est fluide, professionnel… mais généré par ChatGPT. Un an plus tard, le client vous attaque pour plagiat. Preuve à l’appui : « Ce texte porte le filigrane d’OpenAI, donc vous avez triché. » Vous ne pouvez pas contester, car vous ne savez pas comment supprimer ce marqueur. Résultat : vous perdez, même si vous n’avez rien fait de mal.
C’est ça, le vrai problème. Ce filigrane n’est pas une protection contre les abus. C’est une arme juridique. Une façon de prétendre lutter contre la désinformation tout en créant un moyen de vous discréditer si ça arrange quelqu’un.
Et les régulateurs ? Silence radio. L’UE a imposé la traçabilité, mais sans exiger de méthode de vérification indépendante. Comme si on vous obligeait à porter une puce électronique… sans vous donner le lecteur.
ChatGPT sait déjà qui vous êtes. Et bientôt, tout le monde le saura.
OpenAI ne s’arrête pas là. Le filigrane évolue. Désormais, il intègre aussi votre historique d’utilisation. « Nous utilisons des techniques d’empreinte digitale », confirme l’entreprise. Traduction : chaque question que vous posez à ChatGPT modifie légèrement le filigrane de la réponse. Résultat : si deux utilisateurs demandent la même chose, leurs réponses seront légèrement différentes… et traçables à leur profil.
C’est une rupture. Jusqu’ici, les IA génératives étaient des boîtes noires. Désormais, elles deviennent des boîtes vitrées… mais avec un verrou que seul OpenAI peut ouvrir.
Que se passe-t-il si un jour, un gouvernement ou une entreprise veut savoir ce que vous avez demandé à ChatGPT ? OpenAI pourrait fournir les données, sous couvert de « lutte contre les abus ». Mais qui contrôle OpenAI ? Qui vérifie que ces données ne servent pas à cibler des dissidents, des journalistes, ou des opposants politiques ?
Personne.
La vraie question n’est pas « Qui a écrit ce texte ? » mais « Qui peut le prouver ? »
ChatGPT ne ment pas quand il dit vouloir lutter contre la désinformation. Il ment quand il prétend que cette lutte passe par l’opacité.
Le filigrane n’est pas une solution. C’est un symptôme. Un symptôme d’un écosystème où la confiance se mesure en algorithmes, où l’authenticité se réduit à un code binaire, et où votre liberté d’expression dépend des bonnes volontés d’une entreprise.
Anthropic a choisi la transparence. OpenAI, lui, mise sur le contrôle.
La question n’est plus de savoir si vos textes seront traçables. Mais qui en décidera.
