L’IA qui joue aux devinettes avec votre sécurité
On nous vend ça comme une avancée : « La police prédictive, c’est comme un GPS pour les émeutes ! » Sauf que le GPS, vous pouvez le couper. Lui, non. À Londres, PredPol, le logiciel star des flics britanniques, a prédit en 2021 que des violences éclateraient dans un quartier de Birmingham. Il avait tort. Pourtant, la police y a posté 200 agents pendant trois jours. Coût ? 1,2 million d’euros (source : Audit Office du Royaume-Uni, 2022). Personne n’a rendu l’argent. Personne n’a non plus demandé pardon aux commerçants dont les portes ont été défoncées par erreur, parce que l’algorithme avait cru voir un motif dans des données bidon.
En France, Smart Police (développé par la société Capgemini, avec des fonds publics) fonctionne sur le même principe : croiser des données de réseaux sociaux, des historiques de délits, et des « indicateurs de tension sociale » (un joli euphémisme pour « fouille de données personnelles »). Le problème ? L’IA ne comprend pas le contexte. Elle voit un mot-clé comme « manif » ou « flics » sur Twitter et panique. Elle ne sait pas que « manif » peut aussi vouloir dire « manifestation culturelle » ou que « flics » est juste le surnom d’un influenceur local. Résultat : des quartiers calmes deviennent des « zones rouges » du jour au lendemain, et les flics y patrouillent comme si c’était Gilets jaunes 2.0.
Le pire ? Personne ne sait vraiment comment ça marche. Quand on demande à Capgemini comment l’algorithme prend ses décisions, ils répondent : « Propriété intellectuelle. » Traduction : « On ne vous dira pas, c’est notre secret. » Pourtant, ces boîtes noires décident où vous serez fouillé, où vos déplacements seront surveillés, et parfois même où vous serez interpellé préventivement.
Qui paie quand l’IA se trompe ? Vous.
En 2020, à Milan, la police italienne a utilisé un algorithme similaire pour prédire des émeutes lors d’un match de foot. L’IA a merdé : elle avait surestimé le risque de 400 %. La ville a quand même dépensé 3,5 millions d’euros en renforts inutiles (rapport municipal de 2021). Personne n’a été poursuivi. Personne n’a remboursé. Parce que les erreurs des algorithmes, ça ne coûte pas cher à ceux qui les ont commandés.
En France, Smart Police a été testé discrètement dans trois villes en 2022. Les résultats ? « Encourageants », selon un communiqué de l’Intérieur. Traduction : « On va continuer, même si on ne sait pas si ça marche. » Le vrai problème, c’est que ces logiciels créent une boucle de paranoïa. Plus les flics utilisent l’IA, plus ils ont peur de « rater une émeute », donc plus ils surveillent. Plus ils surveillent, plus ils génèrent de données. Plus ils génèrent de données, plus l’IA « apprend »… à voir des menaces là où il n’y en a pas.
Exemple concret : En 2023, à Lyon, Smart Police a repéré une « anomalie » dans un quartier populaire. Anomalie = « trop de jeunes qui traînent près d’un commissariat après 22h ». Résultat : une opération « préventive » avec 50 flics en civil, des contrôles d’identité en série, et trois arrestations. Pour quoi ? Pour « trouble à l’ordre public ». Sauf que les trois interpellés n’avaient rien à voir avec une émeute. Juste le tort d’être noirs, jeunes, et au mauvais endroit au mauvais moment. L’IA ne fait pas la différence.
Le vrai business derrière la prédiction
Derrière ces logiciels, il y a des contrats juteux. Capgemini, qui développe Smart Police, a facturé 12 millions d’euros à l’État français pour « optimiser la gestion des foules » (contrat signé en 2021). PredPol, au Royaume-Uni, a touché 8 millions de livres par an depuis 2018. Et ces boîtes ne font pas de charité : elles vendent leurs algorithmes à d’autres pays. Singapour, Dubai, Israël, tous ont adopté des versions locales de ces logiciels. Parce que la prédiction des émeutes, c’est un marché porteur.
Le problème, c’est que ces algorithmes ne sont pas neutres. Ils reproduisent les biais de ceux qui les alimentent. Si les données de police sont pourries (comme en France, où les contrôles au faciès sont une réalité), l’IA va apprendre à cibler les mêmes profils. Résultat : vous avez plus de risques d’être surveillé si vous êtes issu d’un quartier pauvre, jeune, ou issu de l’immigration. Personne ne le dit ouvertement, mais les chiffres le prouvent. Une étude de Transparency International (2023) a montré que dans les villes où la police prédictive est utilisée, les contrôles d’identité augmentent de 30 % dans les quartiers populaires, sans que le taux de criminalité baisse.
Et si l’IA se rebelle ?
En 2017, à Los Angeles, un algorithme de prédiction des crimes a été accusé d’avoir ciblé à 90 % des Noirs et des Latinos (rapport de l’ACLU). La ville a dû arrêter le projet après des plaintes pour « profilage racial ». En France, on n’en est pas là . Mais les signes sont inquiétants.
Prenez le cas de Vincennes, en 2022. Smart Police a repéré une « concentration suspecte » de personnes près d’un lycée. Les flics ont débarqué avec des drones, des chiens, et des renforts. Résultat ? Zéro émeute. Juste une bande de potes qui regardaient un match en buvant des canettes. L’IA avait confondu « concentration » avec « rassemblement ». Personne n’a été sanctionné. Personne n’a présenté d’excuses. Parce que l’erreur de l’IA, c’est toujours la faute de la cible.
Le vrai danger, ce n’est pas que l’IA prédise des émeutes. C’est qu’elle en crée. En surveillant trop, en contrôlant trop, en traitant tout le monde comme un potentiel émeutier, ces algorithmes transforment les citoyens en suspects. Et ça, ce n’est pas de la science-fiction. C’est déjà en train de se passer.
La question que personne ne pose
Si ces logiciels sont si efficaces, pourquoi les flics n’utilisent-ils pas les mêmes méthodes pour prévenir les cambriolages ou les agressions ? Parce que la prédiction des émeutes, c’est un prétexte. Le vrai but, c’est la surveillance de masse.
En 2024, la France va étendre Smart Police à dix nouvelles villes. Personne ne sait comment l’algorithme fonctionne. Personne ne sait qui sera ciblé. Personne ne sait ce qui se passera quand il se trompera, encore. Parce que l’erreur, dans ce système, ce n’est pas celle de la machine. C’est la vôtre.
