Quand l’IA d’Anthropic invente une source en plein procès de ses propres créateurs
L’anecdote a quelque chose de savoureux. Anthropic, l’entreprise derrière l’assistant Claude, s’est retrouvée piégée par sa propre intelligence artificielle au beau milieu d’une procédure judiciaire. Et l’erreur est passée inaperçue jusqu’à ce qu’un avocat adverse la débusque.
Le contexte d’abord. Anthropic est attaquée par des éditeurs de musique, dont Universal Music Group, qui l’accusent d’avoir entraîné Claude sur des paroles de chansons protégées par le droit d’auteur. Une affaire classique de propriété intellectuelle à l’ère de l’IA générative, comme il en fleurit beaucoup ces derniers temps.
Pour étayer un témoignage, les avocats du cabinet Latham et Watkins, qui défendent Anthropic, ont utilisé Claude afin de formater une référence bibliographique. L’outil a bien fourni un lien, un titre et une année corrects, mais il a inventé de toutes pièces les noms des auteurs et une partie du titre de l’article cité. Un cas d’école d’hallucination, ce phénomène où un modèle de langage produit une information fausse mais présentée avec un aplomb total.
Personne n’a vérifié avant le dépôt du document devant le tribunal, fin avril 2025. L’avocat de la partie adverse, lui, a fait le travail : il a contacté l’auteur supposément cité et la revue concernée, pour découvrir que l’article n’avait jamais existé. La citation était un pur produit de l’imagination de la machine.
Pour comprendre comment ces modèles fonctionnent (et déraillent) :
L’Intelligence artificielle pour les Nuls → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
La juge Susan van Keulen n’a pas apprécié et a qualifié la situation de très sérieuse, exigeant des explications. L’avocate Ivana Dukanovic a présenté ses excuses, parlant d’une erreur embarrassante et involontaire. Embarrassante, le mot est faible : c’est l’entreprise qui vend l’IA qui se fait avoir par l’IA qu’elle vend.
Au-delà de l’ironie, l’épisode pointe un problème de fond. Les hallucinations restent le talon d’Achille des grands modèles de langage, y compris les plus avancés. Dans un cadre juridique, où une virgule peut tout changer, s’appuyer sur une IA sans relecture humaine systématique relève de l’imprudence. Les tribunaux américains commencent d’ailleurs à sanctionner les avocats qui déposent des conclusions truffées de fausses jurisprudences générées par ChatGPT ou ses concurrents.
La leçon vaut pour tout le monde, du juriste à l’étudiant. Un assistant comme Claude est un outil puissant pour dégrossir un travail, jamais une source fiable à laquelle on accorde une confiance aveugle. La vérification reste à la charge de l’humain. Y compris, donc, chez ceux qui fabriquent ces outils.
Crédit photo : DR