Pourquoi Pékin parle enfin de ses peurs, et pourquoi c’est trop tard

La Chine a toujours vendu l’IA comme un outil de progrès, un levier pour dominer les technologies du futur. Pourtant, en coulisses, les services secrets chinois savent une chose : l’IA, c’est d’abord un miroir. Un miroir qui reflète les failles du système. Et celles de la Chine sont nombreuses.

Prenez les social credit systems, ces systèmes de notation sociale expérimentés dans des villes comme Rongcheng. Officiellement, c’est pour « améliorer la confiance sociale ». En réalité, c’est un terrain de jeu parfait pour l’IA générative. Un algorithme malveillant pourrait, demain, fausser des millions de dossiers en quelques clics. Un bug, une faille exploitée, et c’est l’État chinois qui trébuche. Pas sur un détail, mais sur son fondement même : la surveillance de masse.

Ma Xiaotian n’a pas cité d’exemples précis. Il n’a pas non plus détaillé les scénarios catastrophes. Il a juste balayé d’un revers de main l’idée que l’IA serait un simple accélérateur de croissance. « Une révolution technologique ne doit pas devenir une révolution politique par accident », a-t-il lancé. Traduction : « On a merdé, et on le sait. »

Et le plus ironique ? C’est Washington qui a forcé Pékin à parler. Depuis 2022, les États-Unis multiplient les sanctions ciblant les puces et les outils d’IA chinois. Résultat : les géants comme Huawei ou SenseTime doivent désormais intégrer des garde-fous… qu’ils n’avaient pas prévus. Sauf que ces garde-fous, c’est souvent du bricolage. Des patchs sur un système déjà pourri.

Le vrai problème, c’est que l’IA en Chine n’est pas qu’une question de technologie. C’est une question de survie politique.

L’IA comme arme, et comme cible

Imaginez un scénario. Un groupe dissident, ou pire, un État étranger, utilise l’IA pour inonder les réseaux sociaux chinois de désinformation ciblée. Pas des fake news classiques. Non. Des messages personnalisés, adaptés aux peurs locales, aux rancœurs régionales. Des deepfakes de cadres du Parti, accusant Pékin de corruption. Ça existe déjà. En 2021, des hackers pro-taïwanais ont utilisé des voix clonées pour faire croire à des appels du président Xi Jinping. Résultat ? Panic localisé, mais efficace.

La Chine a riposté en durcissant sa censure. Sauf que l’IA contourne la censure. Les outils comme ChatGPT (même bloqué) ou les modèles locaux comme Baichuan peuvent générer du contenu en temps réel, en bypassant les firewalls. Et Pékin n’a pas les moyens de tout filtrer.

Le chiffre qui résume tout : Selon le China Internet Network Information Center (CNNIC), plus de 60 % des entreprises chinoises utilisent déjà des outils d’IA pour la surveillance interne. Des caméras intelligentes qui analysent les expressions faciales, des logiciels qui croisent les données des réseaux sociaux avec les dossiers administratifs. Un État-panoptique, version 2.0.

Sauf que quand votre système repose sur des algorithmes, vous devenez la proie de ceux qui maîtrisent mieux ces algorithmes que vous. Et là, les États-Unis ont un avantage : OpenAI, Google DeepMind, et même des startups comme Mistral AI poussent les limites bien plus vite que les labs chinois, freinés par la censure et les sanctions.

La Chine a peur de perdre le contrôle. Pas seulement sur ses citoyens, mais sur sa propre machine.

Biden et Xi : le sommet où l’IA sera le vrai sujet

Officiellement, les présidents américain et chinois doivent discuter de commerce, Taïwan, et la guerre en Ukraine. Officieusement ? L’IA sera sur la table. Pas pour négocier des règles, non. Pour évaluer qui tient encore la barre.

Parce que voici le paradoxe : les États-Unis parlent de réguler l’IA, mais ils n’ont pas les moyens de le faire. Leur propre Congrès est divisé entre les lobbies tech et les alarmistes. Résultat ? Des lois en retard, des sanctions inefficaces. Pendant ce temps, la Chine a déjà un cadre légal (la Stratégie nationale pour le développement de l’IA, 2017), mais personne ne le respecte vraiment.

Le vrai combat, ce n’est pas entre Pékin et Washington. C’est entre ceux qui contrôlent l’IA et ceux qui en sont les jouets.

Prenez l’exemple de Tencent et son outil DeepVoice. Officiellement, c’est pour améliorer les assistants vocaux. En réalité ? Des tests de manipulation de foules ont été menés dans des villes comme Shenzhen. Des algorithmes capables de créer des rumeurs crédibles en 24 heures, diffusées via des comptes factices. Personne n’a été condamné. Personne n’a été sanctionné. Parce que l’IA avance plus vite que la justice.

Et c’est ça, le vrai danger.

Ce que personne ne dit sur les risques systémiques

Quand on parle d’IA en Chine, on évoque toujours la censure, la surveillance, la répression. Mais on oublie un détail crucial : l’IA, c’est aussi un risque systémique. Un risque qui peut faire s’effondrer un pays.

Imaginez. Un cyberattaque ciblant les serveurs de l’Administration nationale de la sécurité (ANS). Pas pour voler des données. Non. Pour injecter des commandes dans les systèmes de vote électronique. En Chine, où les élections sont contrôlées, mais où des millions de cadres locaux sont désignés via des algorithmes… Qu’est-ce qui empêche un pirate de modifier les scores en temps réel ?

Aucune loi. Aucun audit indépendant. Juste des promesses du Parti.

Et puis il y a l’effet domino. Si un outil d’IA utilisé par l’armée chinoise (comme les drones autonomes de Wing Loong) tombe entre de mauvaises mains, ce n’est pas qu’un échec technologique. C’est une crise géopolitique.

La Chine sait tout ça. Elle a peur. Et elle n’a plus le choix : soit elle accélère sa régulation (trop tard), soit elle laisse l’IA grignoter son pouvoir (déjà en cours).

Pourquoi ça nous concerne tous

Vous pensez que l’IA, c’est loin de vos problèmes ? Détrompez-vous.

• Si vous êtes européen, sachez que 40 % des puces de vos smartphones viennent de TSMC, une entreprise taïwanaise sous pression chinoise. Une cyberattaque sur ses chaînes d’approvisionnement ? Vos téléphones deviennent des espions.
• Si vous êtes américain, sachez que les modèles d’IA chinois s’entraînent sur des données volées (comme celles de Microsoft en 2021). Votre entreprise utilise des outils cloud ? Ils pourraient déjà être compromis.
• Si vous êtes citoyen lambda, sachez que les deepfakes politiques vont exploser, et pas seulement pour faire rire. En 2024, attendez-vous à voir des faux discours de vos élus, des fausses déclarations de guerre, des fausses crises sanitaires.

La Chine a peur. Les États-Unis tergiversent. Et nous, on regarde.

Ce n’est pas une question de « qui gagne la course à l’IA ». C’est une question de survie.

Et personne n’est prêt.