Asimov avait posé les règles ; l’IA moderne pose surtout la question du pouvoir
Les règles imaginées pour encadrer l’intelligence artificielle ont une force rassurante : elles supposent que des principes clairs peuvent guider une machine et protéger les humains. Pourtant, le problème contemporain ne se réduit pas à la formulation d’interdictions. Il concerne aussi ceux qui définissent les objectifs, choisissent les données, contrôlent les infrastructures et interprètent les résultats. Des indicateurs peuvent signaler une performance, une erreur ou un risque, mais ils ne disent pas spontanément qui bénéficie du système ni qui supporte ses conséquences. Évaluer une IA demande donc de déplacer la question : au-delà de ce que la machine peut faire, quel pouvoir son usage distribue-t-il, renforce-t-il ou dissimule-t-il ?
Une règle ne choisit pas la finalité
Une règle peut interdire un comportement, imposer une priorité ou définir une limite. Elle ne détermine pas nécessairement la finalité poursuivie. Un système pourrait respecter formellement ses contraintes tout en servant un objectif discutable, parce que cet objectif aurait été décidé en amont. Dans une situation hypothétique de sélection automatisée, limiter certaines erreurs ne répondrait pas à la question de savoir s’il faut automatiser la décision, ni selon quels intérêts.
La distinction utile oppose donc conformité et légitimité. La conformité demande si le système suit les conditions prévues. La légitimité demande qui a fixé ces conditions, qui peut les contester et quelles solutions non automatisées ont été écartées. Un indicateur de conformité reste précieux, mais son interprétation devient trompeuse s’il tient lieu de justification globale. Avant de mesurer l’obéissance de l’outil, il faudrait examiner la pertinence de la mission qui lui est confiée.
Mesurer la performance, mais pour qui ?
La performance paraît offrir un terrain objectif : rapidité, précision, stabilité ou réduction des erreurs peuvent être comparées. Pourtant, choisir un indicateur revient déjà à privilégier une définition du succès. Une organisation pourrait, par hypothèse, valoriser le nombre de demandes traitées tout en négligeant la possibilité, pour une personne, de comprendre ou de contester une réponse. L’amélioration mesurée serait alors réelle dans son périmètre, mais incomplète dans ses conséquences.
Une lecture prudente distingue la métrique, l’expérience et la distribution des effets. La métrique décrit un aspect observable. L’expérience interroge la manière dont le système transforme une relation ou une décision. La distribution demande quels groupes reçoivent les avantages, les erreurs et les charges supplémentaires. Plusieurs indicateurs complémentaires peuvent réduire les angles morts, sans abolir le jugement. La question pratique n’est donc pas seulement de savoir si le résultat progresse, mais quelle réalité cette progression laisse hors champ.
Le pouvoir se loge dans les seuils
Entre une recommandation produite par une IA et une décision effective se trouve souvent un seuil : niveau de confiance jugé suffisant, risque considéré comme acceptable ou anomalie entraînant une vérification. Ces seuils peuvent sembler techniques, alors qu’ils matérialisent des arbitrages. Les déplacer modifie potentiellement le nombre de personnes concernées, la fréquence des contrôles et la répartition des erreurs.
Il serait donc utile de traiter chaque seuil comme une décision révisable, accompagnée de sa justification et de ses conséquences anticipées. Dans un scénario hypothétique, abaisser un seuil pourrait détecter davantage de situations problématiques, mais aussi multiplier les alertes inutiles. Le bon indicateur ne serait pas seulement le volume détecté : il faudrait également observer les contestations, les corrections et la charge imposée. Le pouvoir devient visible lorsqu’on demande qui choisit le seuil, qui peut en demander la modification et qui répond des effets produits.
Expliquer ne signifie pas rendre contestable
Une explication peut décrire les facteurs ayant contribué à un résultat sans donner à la personne concernée un moyen réel d’agir. Elle risque alors de devenir un commentaire ajouté à une décision déjà verrouillée. La transparence ne suffit pas si aucune procédure ne permet de signaler une erreur, d’apporter un élément nouveau ou d’obtenir un examen humain disposant d’une véritable marge de décision.
Il faut ainsi distinguer lisibilité et recours. La lisibilité aide à comprendre le fonctionnement ou le résultat. Le recours permet de modifier une conséquence injustifiée. Pour évaluer ce second aspect, des indicateurs pourraient porter sur les délais de réexamen, la proportion de décisions effectivement corrigées ou les motifs de refus. Mais leur valeur dépendrait encore du contexte : peu de recours peuvent indiquer un système satisfaisant, une procédure inconnue ou un obstacle décourageant. L’indicateur ouvre l’enquête ; il ne doit pas la refermer.
Organiser une responsabilité qui ne se dissout pas
Lorsque plusieurs acteurs participent à un système, la responsabilité peut se disperser entre conception, fourniture des données, paramétrage, déploiement et décision finale. Chacun risque alors de considérer que l’étape décisive se trouve ailleurs. Une règle adressée à la machine ne résout pas cette fragmentation humaine. Elle peut même la masquer si le résultat automatisé acquiert une autorité que personne ne souhaite assumer.
Une proposition consiste à documenter séparément les responsabilités : qui autorise l’usage, qui surveille les écarts, qui peut suspendre le dispositif et qui prend en charge les recours. Les indicateurs devraient suivre cette architecture plutôt que produire un score unique. Un tableau global peut faciliter le pilotage, mais il efface les désaccords entre sécurité, efficacité, équité et liberté de choix. La gouvernance devient plus solide lorsque ces tensions restent visibles et qu’une personne identifiable possède le pouvoir, mais aussi l’obligation, d’intervenir.
Les règles conservent une fonction essentielle : elles rendent certaines limites explicites et offrent des repères pour examiner un système. Elles deviennent insuffisantes lorsqu’elles détournent l’attention des institutions, des intérêts et des décisions qui entourent la technique. Les indicateurs peuvent éclairer la performance, les erreurs, les recours et la répartition des effets, à condition de ne pas les confondre avec un verdict moral. La question décisive demeure politique au sens large : qui peut décider, contester, corriger et interrompre ? Penser l’IA par le pouvoir ne condamne pas l’outil ; cela oblige à rendre son usage discutable et réversible.
Retrouver les autres articles du média
#IntelligenceArtificielle #ÉthiqueNumérique #GouvernanceIA #PouvoirAlgorithmique #ResponsabilitéNumérique #DécisionAutomatisée #Indicateurs #TransparenceAlgorithmique #CultureNumérique #ScienceFiction
