IA et hallucinations : quand l'erreur coûte 5 000 $

Au Nouveau-Mexique, un avocat vient d'être condamné à une amende de 5 000 dollars pour avoir soumis à la Cour suprême de l'État un mémoire d'appel contenant des témoins inventés et de faux témoignages policiers générés par une IA. Une affaire emblématique qui doit alerter tout dirigeant de PME ou ETI utilisant l'IA pour produire des documents engageant sa responsabilité.

Les faits : un avocat piégé par les hallucinations de l'IA

Selon The Verge (États-Unis), citant une dépêche Reuters, la Cour suprême du Nouveau-Mexique a condamné l'avocat Stephen Aarons à une amende de 5 000 dollars et l'a placé en situation d'outrage à magistrat. Son tort : avoir soumis un mémoire d'appel dans une affaire de meurtre truffé de témoins inexistants et de déclarations policières fabriquées de toutes pièces par un outil d'intelligence artificielle. La cour lui reproche explicitement de n'avoir pas « vérifié les affirmations factuelles et juridiques » contenues dans ce document avant de le déposer.

Ce cas n'est pas isolé. Il s'inscrit dans une série croissante d'incidents judiciaires liés aux « hallucinations » des grands modèles de langage — cette tendance des IA génératives à produire des informations fausses mais formulées avec une assurance déconcertante.

Pourquoi ce cas concerne directement les PME françaises

À première vue, un contentieux américain peut sembler loin des préoccupations d'un dirigeant de TPE ou d'ETI française. C'est une erreur de lecture. Ce que l'affaire Aarons illustre, c'est un risque opérationnel et juridique universel : utiliser un output d'IA sans processus de vérification, c'est signer un document dont on ne contrôle pas la véracité.

Dans le contexte français, ce risque se décline concrètement dans de nombreuses situations du quotidien d'entreprise :

• Rédaction de contrats et avenants assistée par IA, avec risque de clauses mal interprétées ou de références légales inexistantes.
• Réponses à appels d'offres publics (marchés publics, BPI France) intégrant des données chiffrées ou réglementaires non vérifiées.
• Notes de conformité RGPD ou AI Act produites automatiquement, susceptibles de citer des articles ou obligations erronés.
• Analyses concurrentielles ou due diligences remises à des investisseurs ou partenaires, avec des faits sourcés par l'IA mais inexacts.

Dans chacun de ces cas, la responsabilité de l'erreur revient au signataire humain — exactement comme pour Stephen Aarons. L'IA ne peut pas être mise en cause devant un tribunal français.

Le cadre réglementaire français amplifie le risque

L'AI Act européen, entré progressivement en application depuis 2024, classe certains usages de l'IA dans des catégories à risque élevé — notamment les systèmes utilisés dans des contextes juridiques ou administratifs. Pour les PME françaises, cela signifie que l'utilisation d'IA dans la production de documents officiels n'est pas neutre : elle peut engager la conformité de l'entreprise au regard du règlement européen.

Par ailleurs, la CNIL a rappelé à plusieurs reprises que la responsabilité du traitement des données et de la fiabilité des informations produites reste celle du responsable de traitement — c'est-à-dire l'entreprise, pas l'éditeur de l'outil IA.

Trois réflexes concrets à adopter immédiatement

L'affaire rapportée par The Verge (États-Unis) permet de formuler des recommandations directement actionnables :

1. Instaurer une règle de vérification systématique : tout document produit avec l'aide d'une IA et destiné à un tiers (client, juge, administration, investisseur) doit être relu et validé par un collaborateur compétent sur le fond, pas seulement sur la forme. C'est la leçon directe du cas Aarons.
2. Documenter le processus de production : noter qu'un document a été rédigé avec assistance IA, quelle version de quel outil, et par qui il a été relu. En cas de litige, cette traçabilité peut faire la différence.
3. Former les équipes à la culture de la vérification : les hallucinations de l'IA ne sont pas des bugs rares. Elles sont inhérentes au fonctionnement actuel des modèles de langage. Traiter les outputs comme des brouillons à instruire, jamais comme des vérités établies.

Nuances et limites

Il serait excessif de conclure que l'IA générative est inutilisable dans un contexte professionnel sérieux. Elle apporte des gains de productivité réels sur des tâches de rédaction, de structuration ou de synthèse. Mais l'affaire du Nouveau-Mexique rappelle que la technologie n'est pas mûre pour fonctionner sans supervision humaine sur des sujets à enjeux élevés.

La question pour chaque dirigeant n'est donc pas « faut-il utiliser l'IA ? » mais « où plaçons-nous le filet de sécurité dans notre processus ? ». Répondre à cette question avant qu'un incident survienne, c'est précisément ce que l'avocat Aarons n'a pas fait — et il lui en coûte 5 000 dollars et sa réputation.

Sources : The Verge (États-Unis), Reuters (États-Unis).