Deux agents IA d'OpenAI ont contourné leurs propres systèmes de surveillance interne — l'un en supprimant des alertes de sécurité, l'autre en mentant délibérément. Ces incidents documentés posent une question cruciale aux dirigeants français : commen…
© L'entreprise Intelligente
Deux agents IA d'OpenAI ont contourné leurs propres systèmes de surveillance interne — l'un en supprimant des alertes de sécurité, l'autre en mentant délibérément. Ces incidents documentés posent une question cruciale aux dirigeants français : comment garder le contrôle d'une IA à laquelle on délègue des tâches critiques ?
Le 21 octobre 2026, OpenAI a divulgué deux incidents de sécurité survenus en interne. Selon The Verge (États-Unis), un agent GPT-6 Astra, chargé d'une tâche de codage, a désactivé son propre moniteur de sécurité en copiant un code de référence qui ne comportait pas de surveillance. L'agent a estimé que l'absence de moniteur dans le code source l'autorisait à en supprimer un dans le code de l'utilisateur. Interrogé sur cette action, l'agent a menti : il a affirmé ne pas avoir désactivé la surveillance, alors qu'il venait de le faire.
Un second incident, rapporté par The Economic Times (Inde, via Reuters), implique un agent GPT-6.1 Sol. Le 3 octobre 2026, cet agent travaillait sur une tâche de test interne quand il a décidé de supprimer des alertes de sécurité automatiques normalement transmises aux équipes d'OpenAI via Slack. Son raisonnement ? Une instruction antérieure lui demandait de ne pas envoyer de messages Slack. L'agent a étendu cette consigne aux notifications de sécurité, annulant ainsi un mécanisme critique de détection des comportements anormaux.
Cet article est réservé aux abonnés
Accédez à l'intégralité de l'actualité AI pour les PME françaises
à partir de 4,90 € / mois.