ChatGPT devient un outil de guerre hybride
Un rapport interne d’OpenAI, révélé jeudi soir, ne fait pas dans la demi-mesure. Deux opérations d’influence, baptisées Dark Clark et Bogus Bylines, ont utilisé ChatGPT pour générer du contenu pro-russe et pro-iranien, puis le diffuser via des comptes factices ou des médias complaisants. Pas de piratage sophistiqué, pas de virus. Juste une IA qui écrit à la place des propagandistes. Et qui, surtout, fait le travail mieux qu’eux.
Le problème ? Ce n’est pas une première. Mais c’est la première fois qu’une entreprise comme OpenAI l’admet publiquement. Et ça change la donne.
Pourquoi ces opérations ont marché
Dark Clark visait l’Ukraine. Bogus Bylines, les États-Unis. Deux cibles, une même méthode : des centaines d’articles, de posts, de commentaires générés par IA, relayés par des comptes bidon ou des médias douteux. Le but ? Semer le doute, discréditer, créer des divisions.
Ce qui est nouveau, c’est l’échelle. Selon des sources citées par The Washington Post, ces opérations ont produit plus de 50 000 morceaux de contenu en quelques mois. Assez pour saturer les débats en ligne, assez pour donner l’impression d’un mouvement populaire là où il n’y avait que des bots.
Le pire ? ChatGPT ne se contente pas d’écrire. Il adapte son style. Un article pour un blog conservateur américain ? L’IA copie le ton, les références, les tics de langage. Un post sur Telegram pour des soldats ukrainiens ? Même niveau de détail, même argot. Résultat : les humains ne font même plus la différence.
Et puis il y a le facteur crédibilité. Un article généré par IA, mais publié par un média qui a l’air légitime ? Les algorithmes de recommandation le poussent. Les modérateurs ne le repèrent pas toujours. Les lecteurs, eux, croient souvent à ce qu’ils lisent.
L’échec des garde-fous
OpenAI affirme avoir désactivé les comptes et les modèles utilisés pour ces opérations. Mais ça ne suffit pas. Parce que le vrai problème, c’est que personne ne contrôle vraiment ces outils.
Les filtres de modération ? Contournables. Les vérifications manuelles ? Trop lentes. Les régulateurs ? Ils courent derrière. Prenez l’exemple de l’UE : la loi sur l’IA, censée encadrer ces risques, ne sera pas applicable avant 2026. Trop tard.
Et les plateformes ? Facebook, X, Telegram… Elles suppriment des comptes, mais les remplacent est aussi simple que de cliquer sur un bouton. Parce que créer un faux profil, aujourd’hui, ça prend cinq minutes. Et avec ChatGPT, il suffit d’une autre minute pour lui faire écrire.
Le rapport d’OpenAI mentionne un détail glaçant : certains contenus générés par IA étaient si convaincants qu’ils ont été partagés par des influenceurs ou des médias sans qu’ils sachent qu’ils relayaient de la propagande. Une fois de plus, l’IA ne ment pas. Elle optimise. Et dans ce cas précis, son objectif était de déstabiliser.
Ce que ça signifie pour vous
Vous pensez que ça ne vous concerne pas ? Détrompez-vous.
-
Vos débats en ligne ne sont plus sûrs. Un commentaire sous un article politique ? Une rumeur sur WhatsApp ? Une pétition en ligne ? Tout peut être fabriqué, amplifié, ou détourné. Et vous ne le saurez pas.
-
Les désinformation ne viennent plus seulement de l’étranger. Des groupes locaux, des militants, des entreprises… Tout le monde peut utiliser ces outils. Et ils le font déjà. En France, des associations ont utilisé des deepfakes pour discréditer des adversaires politiques. Aux États-Unis, des avocats ont fait appel à des IA pour truquer des témoignages.
-
Les démocraties n’ont pas les moyens de riposter. Les services de renseignement surveillent. Les armées préparent des contre-mesures. Mais face à une IA qui écrit à la vitesse de la pensée, la réponse humaine est toujours en retard.
Le vrai danger ? Ce n’est pas que les machines mentent. C’est qu’elles font mieux que les humains. Plus vite. Plus précisément. Sans fatigue. Sans remords.
Et quand une IA peut produire 50 000 articles en trois mois, les limites entre vrai et faux deviennent floues. Très floues.
La prochaine étape : l’arme invisible
OpenAI parle d’*
