Une décision peut être présentée comme humaine parce qu’une personne a cliqué sur « valider ». Mais ce geste ne dit rien du temps disponible, des informations reçues ni de la liberté de contredire la recommandation d’un système. La supervision de l’IA pose donc une question de pouvoir : qui peut réellement modifier ce qui va se passer pour la personne concernée ?

La recommandation de l’UNESCO sur l’éthique de l’IA affirme que les systèmes ne doivent pas déplacer la responsabilité humaine finale. Elle relie cette responsabilité à la traçabilité, à l’audit et à l’évaluation des effets. Ces principes dessinent une exigence d’organisation ; ils ne démontrent pas que toute procédure portant la mention « supervision humaine » les satisfait déjà.

Valider n’est pas nécessairement contrôler

Un premier critère est le temps. Si l’opérateur doit examiner une quantité de décisions incompatible avec une lecture réelle, la validation peut devenir un acte presque automatique. Cette situation est un exemple de risque organisationnel, pas un constat établi sur un service particulier. Elle montre pourquoi il faut évaluer la procédure et les moyens, au-delà de la présence nominale d’un humain.

Un deuxième critère est l’accès à une information utile. Une explication doit permettre de comprendre le rôle du système dans le cas examiné : ce qu’il estime, les données mobilisées et les limites pertinentes. Un score isolé ou une justification très générale n’aide pas nécessairement à identifier une erreur ni à discuter une décision.

L’explication doit devenir utilisable

La compétence de l’opérateur compte également. Reconnaître un résultat manifestement incohérent et comprendre les conditions de fonctionnement d’un outil demandent une formation adaptée à la tâche. Cette exigence ne suppose pas que chaque utilisateur maîtrise toute l’architecture technique ; elle suppose qu’il sache quand faire confiance, quand vérifier et vers qui transmettre une difficulté.

Le pouvoir de modifier la décision est enfin distinct du droit de constater un problème. Si une personne peut signaler une erreur sans suspendre ses effets ni obtenir de réponse, le contrôle reste incomplet. Le partage des responsabilités doit préciser qui peut arrêter, corriger et prendre en charge les conséquences, plutôt que reporter chaque incident vers un acteur différent.

Le recours révèle le partage des responsabilités

Pour la personne affectée, le recours rend visible cette organisation. Pouvoir connaître l’intervention du système, expliquer son cas et obtenir un réexamen change la portée d’une décision automatisée. La réponse utile ne se résume pas à « l’ordinateur l’a recommandé » : elle engage une institution qui peut défendre ou corriger son choix.

Le test de la supervision humaine est donc concret : information accessible, temps suffisant, compétence, autorité et recours. Ces critères servent à examiner les promesses de contrôle sans attribuer une défaillance à un organisme que l’on n’a pas étudié. Une responsabilité humaine prend sa valeur lorsque l’humain dispose aussi des moyens de l’exercer.