Au Brésil, le tribunal supérieur de justice (STJ) vient de condamner des avocats à une amende de 20 000 reais pour avoir dissimulé des instructions cachées dans une pièce juridique afin de manipuler l'IA de la juridiction. Ce cas inédit illustre une …
© L'entreprise Intelligente
Au Brésil, le tribunal supérieur de justice (STJ) vient de condamner des avocats à une amende de 20 000 reais pour avoir dissimulé des instructions cachées dans une pièce juridique afin de manipuler l'IA de la juridiction. Ce cas inédit illustre une menace concrète et croissante pour toute organisation qui automatise l'analyse de documents : le « prompt injection ». Les dirigeants français doivent en prendre la mesure dès aujourd'hui.
Selon Olhar Digital (Brésil), le Superior Tribunal de Justiça (STJ) brésilien a infligé une amende de 20 000 reais — la plus élevée jamais prononcée par cette juridiction pour ce type de faits — à des avocats qui avaient dissimulé des commandes informatiques dans une requête en appel spécial. Ces instructions, écrites dans la même couleur que la bande décorative du pied de page, étaient invisibles à l'œil nu mais parfaitement lisibles par le système d'intelligence artificielle du tribunal. La 1ère chambre du STJ a simultanément saisi l'Ordre des avocats du Paraná et le Parquet fédéral.
La technique utilisée porte un nom précis : le prompt injection. Il s'agit d'insérer, à l'intérieur d'un document soumis à une IA, des instructions qui tentent de détourner le comportement du système. Toujours selon Olhar Digital (Brésil), les commandes enfouies dans la pièce juridique demandaient explicitement à l'IA de conclure que l'arrêt contesté violait l'autorité de la chose jugée et que le recours devait être intégralement accepté. En d'autres termes : les avocats ne cherchaient pas à convaincre le juge humain — ils tentaient de « réécrire » la mission confiée à la machine.
Cet article est réservé aux abonnés
Accédez à l'intégralité de l'actualité AI pour les PME françaises
à partir de 4,90 € / mois.