Début 2023, un avocat new-yorkais, Steven Schwartz, défend un passager qui poursuit la compagnie aérienne Avianca devant un tribunal fédéral : c'est l'affaire Mata v. Avianca.
Pour étayer son dossier, il demande à ChatGPT de l'aider à trouver des précédents juridiques.
Problème : au moins six des jurisprudences citées n'existent pas.
ChatGPT les a inventées de toutes pièces, avec des noms d'affaires et des extraits qui semblent parfaitement crédibles. Interrogé par l'avocat, le chatbot avait même assuré qu'elles figuraient dans les bases de données juridiques de référence.
Ni les avocats d'Avianca ni le juge ne parviennent à retrouver ces décisions. En mai 2023, l'avocat reconnaît avoir utilisé ChatGPT.
En juin, lui et son associé écopent de 5 000 dollars d'amende : l'un des premiers cas largement médiatisés d'un professionnel du droit pris au piège par les hallucinations d'une IA générative.
Notre regard
LA référence quand on parle d'IA qui invente avec un aplomb total.
Quel enseignement en tirer ?
Une IA qui invente avec aplomb ne prévient jamais qu'elle bluffe. Avant de signer un document, un post ou un article généré avec de l'IA, chaque référence doit être vérifiée à la source, pas relue en diagonale.
Sources
Cette anecdote vous a fait sourire, ou grincer des dents ? Ce genre de dérapage se prévient : gouvernance de contenu, supervision humaine, cadrage avant mise en ligne. C'est justement ce que fait MBx Com.
