En plein détroit d’Ormuz, là où les tensions entre Washington et Pékin sont déjà à fleur de peau, un navire chinois a frôlé l’arraisonnement par l’armée américaine. Cette année. Pas en 2010, pas en 2018, mais en 2024. Le déclencheur ? Un rapport de renseignement fabriqué par une IA, si tordu qu’il a failli faire basculer la région dans une crise ouverte. CNN l’a révélé vendredi, et personne ne semble s’en émouvoir assez fort. Pourtant, c’est une première : une machine, pas un humain, a failli allumer un conflit entre deux puissances nucléaires. Ça, c’est du sérieux.
Pourtant, les médias en parlent comme d’un bug technique. Comme si c’était juste une histoire de faux positif dans un algorithme, un peu comme quand votre GPS vous envoie dans un champ parce qu’il a mal interprété une photo satellite. Sauf que là, le champ en question, c’est le Moyen-Orient. Et que le GPS, c’est le Pentagone.
L’IA a menti. Le Pentagone a failli tirer.
Le scénario est simple, et glaçant : des analystes américains, aidés par des outils d’IA, ont cru reconnaître un navire chinois suspect dans une zone sensible. Le genre de bateau qu’on surveille de près quand on parle de blocus ou de transports d’armes. Sauf que ce n’était pas un cargo militaire. C’était un simple navire de pêche, ou pire : un bateau commercial pris dans une erreur de classification. Le genre d’erreur qu’un humain aurait repérée en deux secondes.
Pourtant, l’IA, elle, a confirmé. Et comme souvent avec ces outils, personne n’a vérifié. Pas assez vite, en tout cas. Les ordres étaient prêts. Les navires de guerre américains se préparaient à intercepter. À ce stade, on parle de minutes. Minutes où des équipages chinois ignorent qu’ils sont sur le point d’être pris pour cibles. Minutes où des officiers américains hésitent entre tirer pour avertir et désamorcer la crise.
CNN cite des sources anonymes du Pentagone. Anonymes, parce que personne ne veut assumer. Ni les responsables de l’IA, ni ceux qui ont validé le rapport, ni ceux qui avaient les doigts sur la détente. Officiellement, l’incident a été résolu à temps. Traduction : on a évité le pire, mais personne ne sait vraiment comment.
Pourquoi personne ne contrôle vraiment ces outils ?
Voilà le vrai problème. Les États-Unis dépensent des milliards dans l’IA militaire. 30 milliards de dollars rien que pour le budget 2024 du département de la Défense, selon le Congressional Budget Office. Une partie de cet argent finance des outils censés améliorer la précision des renseignement. Sauf que quand l’IA se trompe, ce n’est pas une fausse alerte comme chez vous pour votre système d’alarme. C’est une décision de vie ou de mort.
Le Pentagone utilise des algorithmes pour analyser des images satellites, des communications radio, des mouvements de navires. Le problème ? Personne ne comprend vraiment comment ces outils arrivent à leurs conclusions. C’est le classique boîte noire : vous entrez des données, vous sortez un rapport, mais entre les deux, c’est du chinois. Littéralement.
En 2020, une étude de RAND Corporation (un think tank proche du Pentagone) montrait que 70 % des erreurs d’IA en milieu militaire venaient d’un manque de vérification humaine. Traduction : on a mis la machine devant, et on a oublié de regarder derrière. Comme un pilote automatique sans copilote.
Pourtant, rien ne change. Pourquoi ? Parce que les généraux aiment les chiffres. Parce que les politiciens aiment les solutions high-tech. Parce que personne ne veut être celui qui dira : « Attendez, on arrête tout, on vérifie à l’ancienne. » Sauf que l’ancienne méthode, parfois, c’est la seule qui marche.
La Chine, elle, observe et se tait
Du côté de Pékin, silence radio. Pas un communiqué, pas une réaction officielle. Juste des dénégations floues via des porte-paroles qui rappellent que « la Chine s’oppose à la militarisation des détroits ». Traduction : « On ne dit rien, mais on vous regarde. »
Pourquoi ce mutisme ? Parce que la Chine aussi utilise l’IA militaire. Et qu’elle aussi a ses failles. En 2021, des médias chinois ont révélé qu’un système d’IA avait faussement identifié des porte-avions américains dans la mer de Chine méridionale. Résultat : des exercices militaires inutiles, des coûts en carburant et en temps gaspillés. Mais personne n’a tiré.
La différence, c’est que Pékin ne parle pas. Parce que reconnaître une erreur, c’est admettre une faiblesse. Et dans la guerre froide 2.0, les faiblesses, ça se paie cher.
On est où, dans tout ça ?
On est dans un monde où les machines prennent des décisions qui pourraient déclencher des guerres, et où les humains, eux, jouent les figurants. Où les algorithmes remplacent peu à peu le jugement, sans que personne ne sache vraiment pourquoi ils ont choisi telle option plutôt qu’une autre.
Le pire ? Ça ne sera pas un accident isolé. Parce que les États-Unis ne sont pas les seuls à miser sur l’IA. La Russie, l’Iran, même des groupes armés non étatiques en ont les moyens. Et si un jour, une IA se trompe du mauvais côté ?
Pas besoin d’imaginer un scénario de film. Il suffit d’un rapport mal interprété. D’un capteur qui bug. D’un humain qui a oublié de cliquer sur vérifier. Et hop : on y est.
Alors oui, cette fois, c’est passé. Mais la prochaine fois, peut-être que non.
Et personne ne semble s’en soucier assez.
