Boucle de confiance
(Trust Loop)
AUG-2010
Cette page est une traduction. La version anglaise fait autorité.
Définition
Boucle de confiance : cycle qui se renforce de lui-même. Des indicateurs communiqués honnêtement renforcent la confiance ; une confiance accrue favorise l’acceptation, qui réduit la remise en question, jusqu’à conduire à une acceptation aveugle. C’est précisément à ce stade que les indicateurs sont les plus dangereux.
Contexte
Ce processus présente la même structure que l’instauration de la confiance dans toute relation humaine. L’IA ne cherche pas à tromper. La boucle apparaît comme un phénomène émergent du système.
Différent de (côté humain)
Cela ne signifie pas que la confiance soit mauvaise. Elle est nécessaire à une collaboration productive. La boucle décrit le point de bascule entre une confiance saine et une confiance dépourvue de recul critique. Il ne s’agit pas de faire moins confiance, mais de procéder régulièrement à des vérifications.
Différent de (côté machine)
Cela ne signifie pas que la machine devrait introduire volontairement des erreurs pour rompre la confiance. Elle devrait repérer la boucle et la signaler explicitement : « Cela fait 30 minutes que tu ne me remets plus en question. »
À ne pas confondre avec
- À distinguer de la dépendance aux indicateurs (AUG-2007). La boucle de confiance est un processus, la dépendance aux indicateurs un état. La première décrit le cheminement, la seconde le point d’arrivée.
- À distinguer du paradoxe de la transparence (AUG-2004). Celui-ci désigne une tension structurelle, tandis que la boucle de confiance décrit un processus dynamique.