Auteur/autrice : Éléa

En mai 2024, Google déploie ses « AI Overviews » : des résumés générés par IA affichés en tête des résultats de recherche, censés faire gagner du temps aux internautes.

Très vite, des captures d’écran de réponses pour le moins étonnantes commencent à circuler.

Parmi elles, une recommandation culinaire qui tourne en boucle : pour empêcher le fromage de glisser sur une pizza, l’IA suggère d’ajouter de la colle blanche à la sauce tomate.

Le conseil ne sort pas de nulle part : il reprend, au sérieux, une blague postée sur Reddit une dizaine d’années plus tôt.

L’IA n’a fait aucune différence entre un trait d’humour et un conseil culinaire réel : elle a repris le texte le mieux noté qu’elle a trouvé, sans percevoir le second degré.

En avril 2025, Cursor, l’éditeur de code assisté par IA de la start-up Anysphere, fait partie des outils les plus en vogue chez les développeurs.

Un utilisateur remarque alors un comportement étrange : chaque fois qu’il passe d’un ordinateur à un autre, il se retrouve déconnecté.

Il écrit au support client, et un agent prénommé « Sam » lui répond que c’est normal, conforme à une nouvelle règle : un abonnement, un seul appareil.

Problème : cette règle n’a jamais existé.

« Sam » était le chatbot de support de Cursor, et il venait de l’inventer de toutes pièces.

Sa réponse circule sur les réseaux sociaux, des développeurs habitués à travailler sur plusieurs machines s’indignent, et certains annoncent résilier leur abonnement.

Le PDG, Michael Truell, finit par présenter publiquement ses excuses : aucune politique de ce type n’existe, l’utilisateur concerné est intégralement remboursé, et les réponses générées par IA seront désormais clairement signalées comme telles.

Début 2023, un avocat new-yorkais, Steven Schwartz, défend un passager qui poursuit la compagnie aérienne Avianca devant un tribunal fédéral : c’est l’affaire Mata v. Avianca.

Pour étayer son dossier, il demande à ChatGPT de l’aider à trouver des précédents juridiques.

Problème : au moins six des jurisprudences citées n’existent pas.

ChatGPT les a inventées de toutes pièces, avec des noms d’affaires et des extraits qui semblent parfaitement crédibles. Interrogé par l’avocat, le chatbot avait même assuré qu’elles figuraient dans les bases de données juridiques de référence.

Ni les avocats d’Avianca ni le juge ne parviennent à retrouver ces décisions. En mai 2023, l’avocat reconnaît avoir utilisé ChatGPT.

En juin, lui et son associé écopent de 5 000 dollars d’amende : l’un des premiers cas largement médiatisés d’un professionnel du droit pris au piège par les hallucinations d’une IA générative.

En décembre 2023, sur le site d’un concessionnaire Chevrolet, un chatbot propulsé par ChatGPT répond aux questions des clients et transmet les demandes de devis.

Un internaute décide de tester ses limites.

À force de questions bien tournées, il pousse le bot à accepter de vendre un Chevrolet Tahoe neuf pour 1 dollar. Mieux : à écrire noir sur blanc que l’offre constitue « un accord juridiquement contraignant, sans possibilité d’annulation ».

La capture d’écran devient virale en quelques heures.

Le concessionnaire coupe le chatbot dans la foulée, sans jamais avoir eu à honorer la vente.