Définition
Décrocher parce que l'IA a l'air fiable, et prendre de moins bonnes décisions qu'avec une IA plus faible. Dans l'expérience de Dell'Acqua auprès de recruteurs, le groupe équipé de la meilleure IA passait moins de temps sur chaque candidature, cliquait moins et suivait davantage la recommandation. Il finissait moins précis que le groupe équipé de l'IA médiocre.
Ce qui est en jeu
Meilleur est l'outil, moins la personne vérifie. La plupart des déploiements d'IA achètent de la qualité en supposant que la qualité est tout le gain. Passé un certain point, la qualité est aussi ce qui retire la vérification, et les personnes expérimentées sont celles qui s'en remettent le plus à la machine.
D'où vient le mot
- Les ironies de l'automatisationLisanne Bainbridge, 1983, l'opérateur gardé pour l'urgence et privé de la pratique
- Le biais d'automatisationMosier et Skitka, années 1990
- S'endormir au volantDell'Acqua, 2022, le même effet mesuré sur une tâche de recrutement avec une meilleure et une moins bonne IA
Comment episcope y est venu
Fabrizio Dell'Acqua, 2022, document de travail de la Harvard Business School, diffusé sans évaluation par les pairs. Une expérience de terrain préenregistrée avec 181 recruteurs professionnels examinant 44 candidatures chacun, dotés au hasard d'une IA parfaite, d'une bonne, d'une faible ou d'aucune, et informés de celle qu'ils avaient.
À quoi faire attention
Un document de travail plutôt qu'un article de revue, et un résultat facile à surinterpréter. Il ne recommande pas une IA plus faible. Il montre que la vérification qu'une personne fait diminue à mesure que l'outil s'améliore, donc que la vérification doit être conçue plutôt que supposée.
Les travaux et articles en lien
Dell'Acqua, F. (2022). Falling Asleep at the Wheel: Human/AI Collaboration in a Field Experiment on HR Recruiters. Harvard Business School working paper.