Définition
S'en remettre à une sortie automatisée même quand elle est visiblement fausse. Il prend deux formes : agir sur une recommandation erronée, et ne pas agir parce que le système n'a rien signalé. Les deux ont été mesurées dans des cockpits avant que l'IA ne désigne un chatbot.
Ce qui est en jeu
Le plus ancien nom de ce glossaire pour le problème le plus récent. Trente ans d'études en cockpit et en salle de contrôle décrivent ce que les expériences de 2026 retrouvent, ce qui veut dire que le domaine dispose déjà d'une littérature de conception, et que sa réponse n'a jamais été de demander aux gens de faire plus attention.
D'où vient le mot
- Les ironies de l'automatisationLisanne Bainbridge, 1983
- Le biais d'automatisationMosier et Skitka, années 1990, erreurs de commission et d'omission en cockpit
- Le point de basculeParasuraman et Manzey, 2010, le niveau de fiabilité au-dessus duquel s'en remettre au système aide plus qu'il ne nuit
- S'endormir au volantDell'Acqua, 2022, le même biais sur une tâche de recrutement
Comment episcope y est venu
Kathleen Mosier et Linda Skitka, dans la littérature des facteurs humains sur l'automatisation du poste de pilotage, milieu des années 1990. Leur étude de 1999 avec Mark Burdick, évaluée par les pairs dans l'International Journal of Human-Computer Studies, a chiffré les deux formes du biais dans un cockpit simulé. Le terme se tient entre l'article de Lisanne Bainbridge de 1983 d'un côté et l'expérience de Fabrizio Dell'Acqua auprès de recruteurs en 2022 de l'autre, comme parent des deux.
À quoi faire attention
Le contrepoids voyage avec le terme. Raja Parasuraman et Dietrich Manzey, dans une revue de 2010 évaluée par les pairs et parue dans Human Factors, situent la bascule autour de 70 pour cent de fiabilité sous forte charge de travail. Au-dessus, s'en remettre au système aide plus qu'il ne nuit, donc la dépendance n'est un coût qu'en dessous de la ligne. Le chiffre vient des cockpits et des salles de contrôle, pas de l'IA générative, et il mesure le résultat de la tâche, pas la compétence de l'opérateur six mois plus tard.
Les travaux et articles en lien
Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making?. International Journal of Human-Computer Studies, 51(5), 991-1006.
Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381-410.