Définition
Le niveau de fiabilité d'une automatisation au-dessus duquel s'en remettre au système aide plus qu'il ne nuit, et en dessous duquel la dépendance est un coût net. Situé autour de 70 pour cent de fiabilité sous forte charge de travail.
Ce qui est en jeu
L'essentiel de ce glossaire décrit ce que la dépendance coûte. Ici, la littérature plus ancienne dit que la dépendance n'est pas toujours un coût, que la question est empirique et qu'elle dépend du système. C'est le contrepoids honnête au reste de ce glossaire, et il mérite d'être porté pour cette raison.
D'où vient le mot
- Les ironies de l'automatisationLisanne Bainbridge, 1983
- Le biais d'automatisationMosier et Skitka, années 1990
- Le point de basculeParasuraman et Manzey, 2010, qui mettent un chiffre sur l'endroit où la dépendance change de signe
Comment episcope y est venu
Raja Parasuraman et Dietrich Manzey, 2010, dans un article de synthèse évalué par les pairs et paru dans Human Factors, qui a réuni complaisance et biais sous un seul modèle de l'attention. Parasuraman était un psychologue de l'ingénierie américain d'origine indienne, à l'université George Mason, mort en 2015, et il a largement fondé l'étude de la complaisance face à l'automatisation. L'article est arrivé à episcope par une revue de 2024 sur l'IA et l'érosion des compétences, menée par Brooke Macnamara, qui le cite.
À quoi faire attention
Deux limites voyagent avec le chiffre. Il vient du contrôle de procédés et de l'automatisation du poste de pilotage, pas de l'IA générative. Et il mesure le résultat de la tâche, pas la compétence de l'opérateur six mois plus tard, qui est la question que les ironies de Bainbridge et la revue de Macnamara posent réellement. L'article nomme aussi le problème de conception intéressant : les recruteurs de Dell'Acqua ont fait moins bien avec la meilleure IA, et la politique de brouillage de Daron Acemoglu, issue d'un document de travail d'économie de 2026, défend une dégradation volontaire de la précision. Les deux suggèrent que la précision maximale n'est pas l'optimum, et voici la littérature plus ancienne qui dit la même chose avec un seuil.
Les travaux et articles en lien
Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381-410.