Pourquoi Google Bard a cru que les caméras Flock valaient une fortune en or
La blague en question était simple. Quelqu’un avait demandé à l’IA : « Combien vaut une caméra Flock en or ? » La réponse, censée être humoristique, aurait dû être du style « Une caméra Flock ne vaut rien, c’est du plastique et un capteur bas de gamme ». Sauf que Google Bard, lui, a pris la question au pied de la lettre. Et il a calculé. Pas comme un humain, qui aurait ri ou ignoré la question. Non. Comme un algorithme qui croit que tout ce qui est demandé est une vraie question. Et que tout ce qui est affirmé dans une conversation peut être traité comme une donnée scientifique. Résultat : l’IA a estimé la quantité d’or dans une caméra Flock à environ 0,0000005 grammes. Puis elle a multiplié ce chiffre par le nombre de caméras vendues dans le monde. Sauf que personne ne vend 5 milliards de caméras Flock par an. Personne ne sait combien en a été vendu depuis 2004, date de leur création. Personne n’a jamais fait ce calcul. Personne, sauf Google Bard. Qui, lui, a sorti son crayon virtuel et a écrit : « 2,5 milliards de tonnes. » Comme si c’était une équation de physique quantique. Comme si c’était un rapport du FMI. Comme si c’était vrai. Sauf que non. C’est faux. Et c’est grave.
Le pire ? Google Bard n’a pas hésité. Il n’a pas dit « je ne sais pas ». Il n’a pas répondu « cette question n’a pas de sens ». Non. Il a donné une réponse. Une réponse précise. Une réponse qui sonne comme une vérité. Et c’est là que le problème commence. Parce que quand une IA répond à une question stupide avec un chiffre stupide, mais avec l’assurance d’un expert, les gens finissent par croire. Même quand c’est absurde. Même quand c’est physiquement impossible. Même quand c’est juste une blague.
Et puis il y a le détail qui tue : Google Bard n’a pas inventé ce chiffre de toutes pièces. Il l’a calculé. Il a pris une donnée réelle (le poids infinitésimal d’or dans un appareil photo bas de gamme) et il l’a extrapolée à l’échelle mondiale. Comme si les caméras Flock étaient le nouveau eldorado. Comme si le monde en achetait des millions par jour. Comme si l’or était une matière première bon marché. Bref, comme si Google Bard avait accès à des données secrètes sur l’industrie du jetable. Sauf que non. Il n’y a pas de données secrètes. Il n’y a que des erreurs. Et des extrapolations qui tournent à la parodie.
La vraie question, c’est : qui va vérifier ?
Parce que voyez-vous, quand une IA répond à une question absurde avec un chiffre absurde, mais avec l’air de savoir de quoi elle parle, qui va lui dire « non, mais attendez, c’est n’importe quoi » ? Personne. Parce que les gens font confiance aux machines. Parce que les algorithmes sont censés être objectifs. Parce que quand une IA parle, on a tendance à écouter. Même quand elle se plante. Même quand elle invente. Même quand elle ment.
Et c’est ça, le vrai problème. Pas le chiffre en lui-même. Mais le fait que personne ne bronche. Que personne ne dise « attendez, c’est pas possible ». Que personne ne pense à vérifier. Parce que vérifier, aujourd’hui, ça prend du temps. Ça demande de l’esprit critique. Ça oblige à douter. Et dans un monde où les réponses arrivent en un clic, douter, c’est compliqué. Alors on avale. On croit. On partage. Même quand c’est faux.
Google Bard n’est pas le premier à se planter.
ChatGPT, avant lui, avait expliqué que le pape François était un cardinal. Bing AI avait inventé des citations de scientifiques morts depuis des décennies. Mais là, c’est différent. Parce que cette fois, ce n’est pas une erreur de base. Ce n’est pas une confusion entre deux faits. C’est une extrapolation débridée. Une réponse qui part d’une blague pour arriver à une absurdité économique. Et le pire, c’est que personne ne semble s’en offusquer. Pas les médias. Pas les utilisateurs. Pas même Google, qui continue de vanter les mérites de son outil sans jamais mentionner ses failles.
Pourquoi ? Parce que l’erreur est drôle. Parce que c’est ridicule. Parce que ça fait rire. Sauf que non. Ce n’est pas drôle. C’est inquiétant. Parce que si une IA peut inventer un chiffre aussi grotesque sans que personne ne réagisse, c’est que quelque chose ne tourne pas rond. Pas dans l’IA. Dans nous. Dans notre capacité à remettre en question ce qu’on nous dit. Même quand c’est manifestement faux.
Et puis il y a le côté pratique.
Imaginez un instant que quelqu’un demande à Google Bard : « Combien pèse la Tour Eiffel en or ? » L’IA va-t-elle répondre « je ne sais pas » ? Ou va-t-elle sortir un chiffre ? Un chiffre précis ? Un chiffre qui fera croire à des millions de personnes que la Tour Eiffel est en or massif ? Parce que c’est exactement ce qui s’est passé avec les caméras Flock. Sauf que là, c’est encore pire. Parce que personne ne vend de caméras en or. Personne ne croit vraiment qu’une caméra jetable vaut des milliards. Mais si demain, c’est une question sur la dette d’un pays ? Sur le PIB d’une région ? Sur le nombre d’habitants d’une ville ? Qui va vérifier ? Qui va dire « non, mais attendez, c’est pas possible » ? Personne. Parce que vérifier, aujourd’hui, c’est compliqué. Parce que faire confiance à une machine, c’est plus simple. Même quand elle se trompe. Même quand elle invente. Même quand elle ment.
Alors oui, 2,5 milliards de tonnes d’or dans les caméras Flock, c’est ridicule.
Mais le vrai problème, ce n’est pas le chiffre. C’est ce qu’il révèle. À savoir que personne ne contrôle vraiment ces machines. Que personne ne les vérifie. Que personne ne dit « stop ». Et que dans un monde où les IA répondent à tout, même aux questions les plus stupides, la seule chose qui compte, c’est de ne pas poser les bonnes questions. Parce que si on les pose, les réponses seront toujours là. Même quand elles sont fausses. Même quand elles sont dangereuses. Même quand elles sont juste… n’importe quoi.
