Armes autonomes en Ukraine : ce que les dirigeants doivent comprendre

Un drone russe équipé d'une puce Nvidia a tué trois civils à Zaporijia sans aucune intervention humaine. Ce fait documenté marque un seuil technologique dont les implications dépassent largement le champ militaire — et interpellent directement les entreprises françaises sur la gouvernance de leurs propres systèmes d'IA décisionnelle.

Un seuil franchi le 6 juillet 2025

Ce n'est plus un scénario de science-fiction. Selon Le Temps (Suisse), citant une enquête du New York Times (États-Unis), un drone russe a tué trois civils le 6 juillet 2025 à Zaporijia, en Ukraine, sans qu'aucun opérateur humain n'ait validé l'engagement de la cible. L'appareil — un drone de type Molniya ou V2U selon les analyses médico-légales des débris — intégrait un module informatique Nvidia Jetson Orin et ne possédait aucune antenne de transmission. Il était donc, par construction, incapable de recevoir un ordre d'annulation. Il a navigué, identifié des cuves de propane par reconnaissance d'images, sélectionné sa cible et frappé en totale autonomie décisionnelle.

Ce n'est pas un dysfonctionnement. C'est le fonctionnement prévu.

Pourquoi ce fait concerne les entreprises françaises

La question n'est pas militaire. Elle est de gouvernance. Ce drone illustre avec une brutalité rare ce que produit un système d'IA auquel on a retiré toute boucle de contrôle humain : une décision irréversible, létale, fondée sur une reconnaissance d'image, sans possibilité d'appel ni de correction en temps réel.

Dans vos entreprises, les systèmes d'IA décisionnelle ne tuent pas — mais ils accordent ou refusent un crédit, licencient un fournisseur, modifient un prix, alertent un client, déclenchent une procédure. La différence de nature est évidente. La différence de structure est moins grande qu'on ne le croit. Un algorithme de scoring fournisseur sans supervision humaine identifiable, un outil de tarification dynamique sans circuit de validation, un système de détection de fraude qui bloque automatiquement un compte : autant de boucles fermées où la décision est déléguée à la machine.

Ce que l'AI Act dit déjà — et ce que la CNIL surveille

L'Union européenne a anticipé, au moins partiellement, ce risque. L'AI Act, entré progressivement en vigueur depuis 2024, impose pour les systèmes d'IA à haut risque — crédit, RH, infrastructures critiques — une exigence explicite de supervision humaine (human oversight). Ce n'est pas une recommandation. C'est une obligation légale dont les sanctions peuvent atteindre 3 % du chiffre d'affaires mondial.

La CNIL, de son côté, a rappelé à plusieurs reprises que toute décision automatisée affectant significativement une personne doit pouvoir faire l'objet d'une intervention humaine, en application du RGPD. Une PME qui automatise intégralement son processus de recouvrement ou de sélection de candidats sans circuit de révision expose sa direction à un risque juridique réel, pas seulement théorique.

Trois questions concrètes pour vos prochains comités de direction

L'événement de Zaporijia offre un test de réalité utile. Posez-vous ces trois questions sur chaque système d'IA déployé dans votre organisation :

• Peut-on arrêter la décision avant qu'elle soit exécutée ? Si la réponse est non, vous opérez sans filet. Nvidia Jetson Orin sans antenne, c'est l'image extrême de cette situation.
• Qui est responsable si la décision est erronée ? L'AI Act impose d'identifier un responsable humain. Si votre réponse est « le modèle », vous n'avez pas de gouvernance, vous avez une délégation sans destinataire.
• Votre système peut-il cibler les mauvaises entités pour de bonnes raisons apparentes ? Le drone ciblait des cuves de propane — infrastructure identifiable. Il a tué des humains. Vos modèles de scoring, de détection ou de recommandation ont-ils été testés sur leurs angles morts ?

La nuance que les enthousiastes de l'IA omettent souvent

L'automatisation décisionnelle crée de la valeur — personne ne le conteste sérieusement. Elle accélère, réduit les biais humains documentés, diminue les coûts opérationnels. Mais la vitesse est précisément ce qui rend le contrôle difficile. Un drone Molniya frappe avant qu'un opérateur puisse réagir. Un algorithme de tarification peut modifier dix mille prix en quelques secondes. La rapidité d'exécution n'est pas un argument contre le contrôle humain — c'est l'argument le plus fort en sa faveur.

BPI France, dans ses référentiels d'accompagnement à la transformation numérique, insiste sur la maturité organisationnelle comme prérequis à l'automatisation avancée. Déployer de l'IA décisionnelle dans une organisation qui n'a pas encore formalisé ses processus de validation revient à installer un pilote automatique sur un avion dont on ne connaît pas les instruments.

Ce que les dirigeants peuvent faire dès maintenant

Aucune PME française ne fabrique de drones militaires autonomes. Mais chaque dirigeant qui déploie de l'IA dans ses opérations fait des choix architecturaux équivalents, à son échelle. Voici trois actions concrètes, actionnables avant fin 2025 :

1. Cartographier vos décisions automatisées. Listez tous les processus où une machine décide sans validation humaine systématique. Crédit inter-entreprises, alertes qualité, scoring RH, ajustements tarifaires automatiques. Ce recensement est la première étape exigée par l'AI Act pour les systèmes à haut risque.
2. Instaurer un circuit de révision proportionnel à l'enjeu. Une décision réversible à faible impact peut être entièrement automatisée. Une décision irréversible ou à fort impact doit avoir un validateur humain identifié — pas un comité, un individu nommé avec une responsabilité claire.
3. Documenter les cas limites dans vos modèles. Demandez à vos équipes ou prestataires IA de produire des exemples de faux positifs et faux négatifs connus. Si personne ne peut répondre à cette question, votre système n'est pas prêt pour une autonomie décisionnelle étendue.

Sources : Le Temps (Suisse), d'après une enquête du New York Times (États-Unis).