Étiquette : Hallucinations

En mai 2024, Google déploie ses « AI Overviews » : des résumés générés par IA affichés en tête des résultats de recherche, censés faire gagner du temps aux internautes.

Très vite, des captures d’écran de réponses pour le moins étonnantes commencent à circuler.

Parmi elles, une recommandation culinaire qui tourne en boucle : pour empêcher le fromage de glisser sur une pizza, l’IA suggère d’ajouter de la colle blanche à la sauce tomate.

Le conseil ne sort pas de nulle part : il reprend, au sérieux, une blague postée sur Reddit une dizaine d’années plus tôt.

L’IA n’a fait aucune différence entre un trait d’humour et un conseil culinaire réel : elle a repris le texte le mieux noté qu’elle a trouvé, sans percevoir le second degré.

Début 2023, un avocat new-yorkais, Steven Schwartz, défend un passager qui poursuit la compagnie aérienne Avianca devant un tribunal fédéral : c’est l’affaire Mata v. Avianca.

Pour étayer son dossier, il demande à ChatGPT de l’aider à trouver des précédents juridiques.

Problème : au moins six des jurisprudences citées n’existent pas.

ChatGPT les a inventées de toutes pièces, avec des noms d’affaires et des extraits qui semblent parfaitement crédibles. Interrogé par l’avocat, le chatbot avait même assuré qu’elles figuraient dans les bases de données juridiques de référence.

Ni les avocats d’Avianca ni le juge ne parviennent à retrouver ces décisions. En mai 2023, l’avocat reconnaît avoir utilisé ChatGPT.

En juin, lui et son associé écopent de 5 000 dollars d’amende : l’un des premiers cas largement médiatisés d’un professionnel du droit pris au piège par les hallucinations d’une IA générative.