Un rapport qui tombe à pic, mais trop tard pour certains

OpenAI a publié un rapport début juin sur deux opérations d’influence qu’elle a bloquées via ChatGPT. La première, russe, visait à discréditer l’Ukraine en diffusant des fake news sur ses « crimes de guerre » et son « inefficacité militaire ». La seconde, liée à l’Iran, consistait à générer des articles bidon sur des médias américains pour attiser les tensions avec les États-Unis. Rien de nouveau sous le soleil, sauf que cette fois, c’est OpenAI qui le dit officiellement.

Pourquoi c’est révélateur ? Parce que ces manipulations ne datent pas d’hier. Depuis 2016 et l’ingérence russe dans l’élection américaine, on sait que les États, les groupes armés et les régimes autoritaires utilisent l’IA pour semer le chaos. Sauf que là, ce n’est plus une rumeur ou une analyse de chercheurs : c’est un acteur clé de l’IA qui avoue, presque fièrement, avoir intercepté des comptes qui jouaient avec ses outils. Comme si ça changeait quelque chose.

La Russie joue encore la carte de la désinformation

Le rapport d’OpenAI détaille une campagne russe qui a tenté d’exploiter ChatGPT pour amplifier des récits pro-Kremlin. L’idée ? Faire croire que l’Ukraine commettait des atrocités contre sa propre population, ou que son armée était en déroute. Des comptes automatisés (bots) généraient du contenu en masse, puis le relayaient sur des plateformes comme Telegram, X (ex-Twitter) ou des forums obscurs. OpenAI a repéré le schéma : des questions pièges posées à ChatGPT pour obtenir des réponses biaisées, puis recyclées comme des « preuves ».

Le problème ? Ça marche encore. Même si OpenAI a fermé ces comptes, d’autres prennent le relais. La Russie a déjà utilisé des techniques similaires en 2022 avec des deepfakes de Zelensky appelant à la reddition. Aujourd’hui, elle mise sur l’IA textuelle, moins visible mais tout aussi efficace. Le Kremlin ne dépense pas des millions pour des usines à trolls : il achète des abonnements à des outils comme ChatGPT et les utilise comme des armes.

Et les médias ? Beaucoup tombent encore dans le panneau. Un exemple ? En 2023, The Guardian a publié un article basé sur des données générées par IA… sans le mentionner. Résultat : des lecteurs ont cru à une enquête exclusive, alors qu’il s’agissait d’une manipulation grossière. Si un journal sérieux se fait avoir, imaginez les petits sites ou les influenceurs qui recyclent ces infos sans sourciller.

L’Iran mise sur des faux médias pour provoker les États-Unis

Côté iranien, la stratégie était différente. Pas de bots cette fois, mais des faux articles publiés sur des plateformes américaines via des comptes compromis. L’objectif ? Faire croire que Téhéran préparait une attaque contre des intérêts américains au Moyen-Orient, ou que les États-Unis exagéraient leurs sanctions. OpenAI a identifié des tentatives pour créer des « médias » fictifs, avec des noms qui sonnaient crédibles (Middle East Intelligence Review, Iran Watch), et des articles signés de pseudo-journalistes.

Le détail qui cloche : Ces faux médias ciblaient des lecteurs américains, pas iranien. Pourquoi ? Parce que l’Iran sait très bien que les États-Unis sont hypersensibles aux questions de sécurité nationale. Un article bidon sur une « menace iranienne » a plus de chances d’être repris par Fox News ou The New York Post qu’un débat interne au régime des mollahs. Et une fois que le récit est lancé, même les fact-checkers peinent à rattraper le coup.

Le pire ? Ces manipulations ne viennent pas seulement de l’État iranien. Des groupes paramilitaires comme les Basij ou des hackers pro-régime utilisent aussi ces techniques. En 2021, des comptes liés à l’Iran ont inondé Twitter de fausses rumeurs sur des « cyberattaques américaines » contre des hôpitaux iranien. Spoiler : il n’y en avait jamais eu.

Pourquoi OpenAI parle maintenant ?

Alors, pourquoi ce rapport maintenant ? Deux hypothèses.

1. La pression réglementaire. Les États-Unis et l’UE serrent la vis sur les risques liés à l’IA. En montrant qu’elle surveille les abus, OpenAI se positionne en « bon élève » face aux régulateurs. C’est une stratégie classique : « On fait semblant de réguler pour éviter qu’on ne nous régule vraiment. »

2. La course aux modèles. OpenAI sait que des acteurs comme la Chine (avec Baidu ou Pangu) ou la Russie (avec SberAI) ne se gênent pas pour utiliser l’IA à des fins militaires ou géopolitiques. En publiant ce rapport, l’entreprise rappelle qu’elle, au moins, a des garde-fous. Même si ces garde-fous sont surtout symboliques.

Le vrai problème, c’est que ça ne suffit pas. OpenAI bloque des comptes, mais d’autres en créent. Les algorithmes de détection s’améliorent, mais les manipulateurs aussi. Et surtout : personne ne contrôle vraiment l’usage de ces outils. Un étudiant iranien peut générer des faux articles pour nuire aux États-Unis. Un troll russe peut faire croire que l’Ukraine torture des civils. Et un influenceur américain peut, sans le savoir, relayer ces infos parce qu’elles « collent » à son récit.

La guerre des algorithmes a déjà commencé

Ce qui se joue aujourd’hui, c’est une guerre invisible. Pas entre tanks et avions, mais entre lignes de code et récits fabriqués. La Russie et l’Iran ne dépensent pas des milliards pour des armées conventionnelles : ils investissent dans des outils comme ChatGPT, MidJourney ou Stable Diffusion pour influencer l’opinion, semer la confusion, et éroder la confiance dans les médias traditionnels.

Le paradoxe ? Plus les outils d’IA sont puissants, plus ils deviennent dangereux. Parce qu’ils permettent à des acteurs faibles (un petit groupe de hackers, un régime isolé) de rivaliser avec des puissances établies. Et parce que personne ne sait vraiment qui contrôle quoi.

Prenez l’exemple des deepfakes. En 2018, une vidéo deepfake de Barack Obama appelant à une « guerre civile » a fait le tour du monde. Aujourd’hui, avec des outils comme ElevenLabs, n’importe qui peut cloner une voix en quelques secondes. Imaginez un faux Zelensky annonçant une capitulation, ou un faux Biden déclarant la guerre à l’Iran. Qui va vérifier ? Qui va croire quoi ?

Ce que ça change (ou pas) pour vous

Pour l’instant, ces manipulations restent marginales. La plupart des gens ne tombent pas dans le panneau. Mais à force de répétition, les récits bidon finissent par s’imposer. Et quand une fausse info est reprise par un média sérieux, même une fois démentie, elle laisse une trace.

Ce qui coince ? Les plateformes. Twitter, Facebook, TikTok : toutes savent que des comptes automatisés et des fausses infos pullulent sur leurs réseaux. Pourtant, elles ferment les yeux. Pourquoi ? Parce que la modération coûte cher, et que la publicité rapporte plus. Résultat : les algorithmes de recommandation amplifient les contenus clivants, qu’ils soient vrais ou faux.

Et les gouvernements ? Ils font semblant de réagir. L’UE a son AI Act, les États-Unis ont des lois sur la désinformation… mais personne ne veut vraiment réguler l’IA, de peur de freiner l’innovation. Sauf que l’innovation, aujourd’hui, c’est aussi une arme.

La prochaine étape : l’IA qui se manipule elle-même

Le rapport d’OpenAI est intéressant, mais il ne règle rien. Parce que le vrai problème, c’est que ces outils deviennent trop complexes pour être contrôlés. Demain, ce ne seront plus seulement des humains qui manipuleront l’IA : ce seront des IA qui manipuleront d’autres IA.

Déjà, des chercheurs montrent que des modèles comme GPT-4 peuvent être « jailbreakés » pour contourner leurs garde-fous éthiques. Imaginez un jour un bot qui génère des fake news sans qu’un humain ait besoin d’intervenir. Qui détectera la manipulation ? Qui sera responsable ?

La question n’est plus « si » ça va arriver, mais « quand ». Et quand ça arrivera, ce ne sera pas OpenAI ou Meta qui arrêteront le problème. Ce sera trop tard.

Ce que ça signifie pour l’Ukraine et l’Iran

Pour Kiev, c’est une course contre la montre. La Russie utilise déjà l’IA pour recruter des mercenaires, désinformer l’opinion occidentale, et justifier ses crimes. Si Moscou arrive à automatiser la production de fake news à grande échelle, l’Ukraine aura encore plus de mal à faire passer sa version des faits.

Pour Téhéran, c’est une victoire à la Pyrrhus. L’Iran prouve qu’il peut influencer l’opinion américaine sans dépenser un centime en diplomatie. Mais en même temps, il s’expose : si les États-Unis remontent jusqu’aux comptes utilisés, ils pourraient riposter en ciblant les infrastructures iraniennes liées à ces opérations.

Le vrai danger : l’habituation

Le pire scénario ? Que tout le monde s’habitue. Que les gens ne croient plus rien, même les infos vérifiées. Parce que si tout est faux, alors rien n’a d’importance. Et c’est exactement ce que veulent la Russie et l’Iran : un monde où la vérité est une opinion comme une autre.

Alors, que faire ?

1. Ne pas paniquer, mais rester vigilant. Les fake news existent depuis toujours, l’IA ne change pas la donne… sauf qu’elle les multiplie. La solution ? Croiser les sources, vérifier les images, et surtout, ne pas partager une info juste parce qu’elle « colle » à ce qu’on pense.

2. Exiger des plateformes qu’elles agissent. Twitter et Facebook doivent arrêter de faire semblant. Si elles ne veulent pas modérer, qu’elles soient tenues responsables quand leurs algorithmes amplifient des mensonges.

3. Préparer les médias à l’ère post-vérité. Les journalistes doivent apprendre à détecter les manipulations générées par IA. Les universités doivent former les citoyens à l’esprit critique. Parce que demain, la différence entre une info et une fake news ne se fera plus à l’œil nu.

La dernière idée qui dérange

OpenAI a raison sur un point : ces manipulations sont réelles, et elles vont empirer. Mais son rapport est aussi un leurre. Parce que bloquer quelques comptes, c’est comme essayer d’éteindre un incendie avec un verre d’eau.

La vraie bataille ne se joue pas dans les rapports d’entreprise ou les communiqués de presse. Elle se joue dans les algorithmes, les lois, et surtout, dans nos têtes. Et pour l’instant, personne ne gagne.