À partir de juin, Google traquera vos faux médias

Google vient d’ouvrir son outil SynthID au grand public. Un logiciel capable de détecter les images, vidéos et audios fabriqués par ses propres IA, celles de Nvidia ou d’OpenAI. Sur le papier, c’est une bonne nouvelle. Enfin un moyen de distinguer le vrai du faux, non ? Sauf que personne ne sait encore qui va s’en servir. Et surtout, à quoi ça servira.

Un outil qui arrive trop tard

Déjà, il y a le timing. SynthID débarque alors que les deepfakes pullulent depuis des années. En 2023, une vidéo deepfake de Zelensky appelant à la reddition a circulé en Ukraine. En 2022, des fausses images de soldats russes morts ont été diffusées en masse. Et en 2021, une deepfake audio d’un dirigeant d’entreprise a failli faire s’effondrer une fusion à 7 milliards de dollars. Pourtant, Google met six ans à sortir un outil de détection.

Pourquoi si tard ? Parce que l’IA générative était encore un jouet de laboratoire. Aujourd’hui, c’est une arme. Et Google, comme les autres géants, a préféré laisser faire avant de réagir.

Qui va vraiment l’utiliser ?

Google promet que SynthID sera accessible à tous. Mais qui va s’en servir ? Les médias ? Les plateformes sociales ? Les régulateurs ?

• Les médias ? La plupart n’ont ni les moyens ni les compétences pour l’intégrer à leurs workflows. Et ceux qui en ont les moyens préfèrent souvent l’émotion brute à la vérification.
• Les plateformes sociales ? Facebook et Twitter ont déjà échoué à modérer les deepfakes. Ajouter un filtre de plus ne changera rien.
• Les régulateurs ? L’UE travaille sur son AI Act, mais les lois mettent des années à s’appliquer. D’ici là, les deepfakes auront encore plus évolué.

Bref, personne ne s’en soucie vraiment.

Le vrai problème : la désinformation paye

Le pire, c’est que SynthID ne résout pas le cœur du problème. Les deepfakes ne servent pas qu’à tromper. Ils servent à manipuler. À influencer. À faire monter la haine.

Prenez l’exemple des élections. En 2024, des deepfakes de candidats politiques pourraient circuler massivement. Et même si on les détecte, leur impact sera déjà fait. Une fois que l’émotion est déclenchée, difficile de revenir en arrière.

Google pourrait investir dans des algorithmes de counter-disinformation. Des outils pour contrer les fausses infos en temps réel. Mais non. Ils préfèrent jouer les pompiers plutôt que les préventeurs.

Ce que Google ne dit pas

SynthID a une limite majeure : il ne détecte que les contenus générés par les IA qu’il connaît. Si demain une nouvelle IA émerge, capable de produire des deepfakes indétectables, Google sera dans la merde. Et personne ne sait qui contrôle ces outils.

En interne, Google utilise SynthID pour étiqueter ses propres créations. Mais est-ce suffisant ? Non. Parce que les deepfakes les plus dangereux ne viennent pas des géants du tech. Ils viennent des petits studios, des hackers, des États.

Google joue à la transparence, mais en réalité, il protège ses propres intérêts.

La vraie question : et après ?

SynthID est un outil. Un outil utile, mais insuffisant. Parce que la bataille contre la désinformation ne se gagne pas avec de la tech. Elle se gagne avec des médias responsables, des citoyens informés et des lois strictes.

Pour l’instant, Google ne fait que la première partie du job. Le reste, c’est à nous.

Mais personne n’en a envie.