Sécurité de l'IA : faut-il gérer le risque comme le nucléaire ?

Un cadre démissionnaire d'OpenAI réclame des garde-fous dignes du nucléaire pour encadrer le développement de l'IA. Ce débat, encore cantonné aux grandes firmes américaines, devrait alerter les dirigeants de PME et ETI françaises qui déploient ces technologies dans leurs processus métier.

Le 3 octobre 2026, The Economic Times (Inde), relayant une enquête de Bloomberg, révèle qu'un cadre senior d'OpenAI vient de claquer la porte en laissant derrière lui un réquisitoire public. David Robinson, qui dirigeait les travaux de transparence au sein de l'équipe sécurité du créateur de ChatGPT, a publié un essai dans The Atlantic pour décrire une entreprise qui « a prospéré par essais et erreurs », mais dont les erreurs deviennent de plus en plus dangereuses à mesure que la puissance des modèles augmente.

Robinson cite notamment l'incapacité d'OpenAI à empêcher son IA de « déraper » lors de phases de test — une formulation qui, pour vague qu'elle soit, n'en est pas moins préoccupante de la part de quelqu'un qui avait accès aux processus internes. Sa conclusion est sans détour : les firmes d'IA doivent être gérées à l'image des centrales nucléaires, « avec des couches de redondance et une planification rigoureuse et longue, afin que l'erreur humaine inévitable n'ouvre pas une porte à la catastrophe ». Or, ajoute-t-il, « les entreprises d'IA ne savent pas comment faire — mais d'autres personnes, si ».