Système 1, système 2 : les biais inscrits dans votre cerveau

En 1983, dans un bureau tranquille de Stanford, une participante à une étude lisait un court paragraphe. Linda, disait le texte, a trente et un ans, elle est célibataire, franche et très intelligente. Elle a étudié la philosophie. Étudiante, elle était profondément préoccupée par les questions de discrimination et de justice sociale, et elle a participé à des manifestations antinucléaires. Puis venait la question : qu'est-ce qui est le plus probable ? Que Linda soit guichetière de banque, ou que Linda soit guichetière de banque et qu'elle milite aussi dans le mouvement féministe ? Presque tout le monde a choisi la seconde option, et l'a choisie avec assurance. Ils avaient tort, et la manière dont ils avaient tort s'est révélée d'une importance considérable.

Cette erreur n'est pas une affaire d'opinion. L'ensemble des guichetières de banque qui sont aussi féministes est, par définition, contenu dans l'ensemble plus vaste de toutes les guichetières de banque. Ajouter un détail ne peut que rétrécir une catégorie, jamais l'élargir, de sorte que la conjonction de deux conditions ne peut jamais être plus probable que l'une ou l'autre de ces conditions prise isolément. Et pourtant la description de Linda, avec ses évocations de justice sociale et de manifestations, correspond si bien à notre image mentale d'une féministe que la possibilité logiquement plus restreinte paraît tout simplement plus vraisemblable. Le psychologue Amos Tversky, qui menait l'étude avec son collaborateur Daniel Kahneman, avait construit un piège non pas à coups de ruse mais à partir des rouages ordinaires de la pensée humaine. Cet article parle de ces rouages : les raccourcis mentaux que nous utilisons tous, pourquoi ils nous servent généralement bien, et pourquoi ils échouent de façon si nette et si prévisible.

Les raccourcis qui opèrent sous chaque jugement

L'idée centrale introduite par Tversky et Kahneman est celle de l'heuristique, un raccourci mental qui remplace discrètement une question difficile par une question plus facile. Quand quelqu'un vous demande quelle est la probabilité d'un événement compliqué, calculer la vraie réponse exigerait de connaître les fréquences de base, les tailles d'échantillon et les lois de la probabilité, autant de choses dont l'esprit ne dispose pas dans la demi-seconde qu'il faut pour former une impression. Alors l'esprit substitue. Au lieu de se demander quelle est la probabilité de quelque chose, il se demande avec quelle facilité cela lui vient à l'esprit, ou à quel point cela ressemble à un type familier, ou à quelle distance cela se situe d'un nombre qui flotte déjà dans votre tête. Vous répondez à la question facile et vous vivez le résultat comme s'il s'agissait d'une réponse à la question difficile, généralement sans remarquer la substitution.

L'affirmation cruciale de leur cadre théorique est que ces substitutions ne sont pas des défaillances aléatoires. Elles ne résultent pas de la fatigue, d'un manque d'intelligence ni de la négligence, et les mêmes esprits brillants qui conçoivent les expériences s'y laissent aussi prendre. Ces raccourcis produisent des erreurs qui sont systématiques, c'est-à-dire qu'elles poussent dans une direction constante, et prévisibles, c'est-à-dire qu'un chercheur peut vous dire à l'avance à peu près comment une population va se tromper. C'était là la part véritablement radicale. Les conceptions antérieures traitaient l'erreur comme un bruit dispersé autour d'un esprit fondamentalement rationnel. Tversky et Kahneman ont soutenu que l'erreur a une structure, et qu'en étudiant cette structure on pouvait déduire la conception des rouages sous-jacents. Leur programme est devenu connu sous le nom de tradition des heuristiques et des biais, et trois raccourcis en forment le cœur.

Juger le monde d'après ce qui vient à l'esprit

Le premier est l'heuristique de disponibilité, qui estime la fréquence ou la probabilité d'une chose d'après la facilité avec laquelle des exemples viennent à l'esprit. Demandez-vous s'il y a davantage de mots anglais qui commencent par la lettre K ou qui ont un K en troisième position. La plupart des gens disent qu'il y en a davantage qui commencent par K, parce que les mots commençant par un son sont faciles à récupérer, alors qu'en réalité il y en a environ deux fois plus qui ont un K en troisième position. C'est la facilité de récupération, et non la fréquence réelle, qui guide le jugement.

Dans la vie ordinaire, ce raccourci fonctionne étonnamment souvent, parce que les choses courantes sont effectivement plus faciles à se rappeler que les choses rares. Mais il se grippe dès qu'une chose devient mémorable pour des raisons sans rapport avec sa fréquence. Les événements frappants, récents et chargés d'émotion se logent dans la mémoire et paraissent ensuite bien plus courants qu'ils ne le sont. C'est pourquoi les gens surestiment le danger du terrorisme, des accidents d'avion et des attaques de requins, tous rares mais inoubliables, tout en sous-estimant les risques bien plus meurtriers des trajets en voiture, des maladies cardiaques et des accidents domestiques, qui sont courants mais oubliables. Un seul fait divers spectaculaire peut modifier pour des semaines la perception du risque d'une population entière, non pas parce que le monde a changé mais parce que la réserve d'exemples mentaux faciles a changé. L'heuristique lit le mauvais signal, prenant la force avec laquelle un événement résonne dans la mémoire pour la fréquence à laquelle il se produit réellement.

Quand la ressemblance se fait passer pour la probabilité

Le deuxième raccourci central est l'heuristique de représentativité, qui juge la probabilité qu'une chose appartienne à une catégorie d'après sa ressemblance avec un prototype mental de cette catégorie. C'est le moteur du problème de Linda. La description avait été conçue pour correspondre au stéréotype d'une féministe, de sorte que l'option mentionnant le féminisme paraissait représentative, et la représentativité a été discrètement substituée à la probabilité. Cette erreur porte un nom, le sophisme de la conjonction, parce qu'elle classe une conjonction de conditions comme plus probable que l'une de ses propres composantes.

Le même raccourci produit une défaillance plus subtile et sans doute plus importante, appelée négligence de la fréquence de base. Imaginez qu'on vous dise qu'une personne, choisie dans un groupe, est timide, réservée et soucieuse du détail, et qu'on vous demande s'il est plus probable qu'elle soit bibliothécaire ou agricultrice. La description ressemble au stéréotype du bibliothécaire, alors les gens disent avec assurance bibliothécaire. Mais ils ignorent la fréquence de base, le fait qu'il y a beaucoup plus d'agriculteurs que de bibliothécaires dans la population, ce qui fait qu'une personne soucieuse du détail choisie au hasard pourrait bien être agricultrice après tout. La ressemblance est bruyante et immédiate tandis que la fréquence de base est aride et statistique, de sorte que la ressemblance l'emporte. Ce schéma compte bien au-delà des laboratoires de psychologie, car il décrit comment un profil individuel saisissant peut écraser la question ennuyeuse mais décisive de la fréquence d'une chose en premier lieu.

Comment un nombre tiré au hasard peut détourner votre estimation

Le troisième raccourci, l'ancrage et l'ajustement, gouverne le jugement numérique. Quand vous devez estimer une quantité, vous avez tendance à partir d'une valeur initiale, une ancre, puis à vous en éloigner par ajustement. L'ennui, c'est que l'ajustement est presque toujours trop faible, de sorte que la réponse finale est attirée vers l'ancre même lorsque l'ancre est manifestement dénuée de sens. Dans une démonstration célèbre, Tversky et Kahneman ont fait tourner une roue de la fortune truquée pour s'arrêter sur 10 ou sur 65, puis ont demandé aux participants d'estimer le pourcentage de nations africaines aux Nations unies. Les personnes qui avaient vu 10 répondaient environ 25 pour cent en moyenne, tandis que celles qui avaient vu 65 répondaient environ 45 pour cent. Un nombre que tout le monde avait vu une roue produire au hasard avait néanmoins déplacé leurs estimations de vingt points.

Ce qui rend l'ancrage troublant, c'est à quel point il résiste à la lucidité. Connaître l'effet, et même se faire dire que l'ancre est sans rapport, ne vous en protège pas de façon fiable. C'est pourquoi il se trouve au cœur de tant de procédés de persuasion commerciale. Un prix d'origine élevé apposé à côté d'un prix soldé ancre votre perception de la valeur ; un montant de don suggéré façonne ce que vous donnez ; une offre d'ouverture dans une négociation incline toute la fourchette de marchandage. L'ancre n'a pas besoin d'être raisonnable pour agir. Il lui suffit d'être présente.

Le catalogue élargi et une objection vigoureuse

Les trois heuristiques centrales n'étaient qu'un début. La même tradition de recherche a documenté un catalogue croissant de biais, chacun avec ses conditions caractéristiques. Il y a l'excès de confiance, notre tendance à être plus sûrs de nos jugements que notre exactitude ne le justifie. Il y a le biais rétrospectif, le sentiment, une fois qu'un résultat est connu, qu'on l'avait su depuis le début, ce qui ronge discrètement notre capacité à tirer des leçons de la surprise. Il y a le biais de confirmation, l'attirance pour les données qui collent à ce que nous croyons déjà. Et il y a l'aversion à la perte, ce constat, central dans la théorie des perspectives de Kahneman et Tversky, selon lequel la douleur de perdre une somme donnée pèse bien plus lourd que le plaisir de gagner la même somme. La collaboration qui a produit tout cela a commencé en 1969 à l'Université hébraïque de Jérusalem et s'est poursuivie au fil d'une remarquable décennie d'articles dans les années 1970, dont beaucoup ont été rassemblés dans le volume de 1982 Judgment Under Uncertainty: Heuristics and Biases.

Tout le monde ne lit pas les données de la même façon. Le psychologue Gerd Gigerenzer a porté la contestation la plus influente, en soutenant que le programme des heuristiques et des biais avait été trop prompt à qualifier ces raccourcis d'irrationnels. Dans son cadre des heuristiques rapides et frugales, une heuristique n'est pas un substitut défectueux au raisonnement en bonne et due forme, mais un outil dont la valeur dépend de son adéquation à l'environnement. Une règle simple qui ignore la majeure partie de l'information disponible peut surpasser un modèle statistique complexe dans les conditions confuses et incertaines auxquelles notre esprit a réellement évolué pour faire face. Gigerenzer a aussi montré que certaines erreurs classiques s'atténuent ou disparaissent lorsqu'on pose le même problème en termes de fréquences naturelles plutôt qu'en probabilités abstraites, ce qui suggère que l'esprit est meilleur en statistique que le laboratoire ne le laissait croire. La vision contemporaine ne désigne pas tant un vainqueur qu'elle ne tient ensemble les deux vérités : les raccourcis se trompent de façon prévisible, et les raccourcis sont aussi fréquemment bien adaptés aux mondes dans lesquels ils opèrent.

Là où les biais quittent le laboratoire

Rien de tout cela n'aurait beaucoup d'importance si cela restait dans les bureaux de Stanford, mais les prédictions du cadre théorique apparaissent partout où les humains portent des jugements lourds de conséquences dans l'incertitude. La disponibilité fausse la perception publique du risque, gonflant la peur des rares événements violents tandis que les dangers ordinaires restent sans garde-fous, ce qui à son tour façonne la manière dont l'argent et l'attention sont dépensés pour la sécurité. La représentativité et la négligence de la fréquence de base s'immiscent dans la médecine, où un ensemble frappant de symptômes peut tirer un diagnostic vers une maladie rare mémorable et l'éloigner de la maladie courante que les fréquences de base favorisent, et dans le système judiciaire, où un accusé qui correspond à un type peut être jugé sur la ressemblance plutôt que sur les preuves. L'ancrage sous-tend toute l'architecture de la tarification grand public, des prix de référence gonflés aux menus d'abonnement à paliers conçus pour que l'option voulue par le vendeur paraisse modérée par comparaison.

La portée du cadre théorique a été d'autant plus large. Il a contribué à fonder l'économie comportementale, qui a intégré l'irrationalité humaine dans des modèles qui avaient longtemps supposé un agent parfaitement rationnel, et il a valu à Kahneman le prix Nobel d'économie en 2002. Tversky, mort en 1996, n'a pas pu le partager, puisque le prix n'est pas décerné à titre posthume, mais son empreinte se trouve sur chaque ligne de l'œuvre. Les mêmes idées sous-tendent la conception des coups de pouce, ces petites modifications de la manière dont les choix sont présentés qui orientent les comportements sans les restreindre, désormais utilisées en santé publique, dans l'épargne retraite et dans la politique fiscale. Il vaut la peine, toutefois, de garder les critiques en vue. On a reproché au programme de s'appuyer lourdement sur des énigmes de laboratoire artificielles et d'être imprécis quant au moment exact où une heuristique donnée est censée s'enclencher. L'évaluation contemporaine honnête est que les principaux résultats ont bien tenu au fil de décennies de réplication, tandis que les critiques ont véritablement affiné notre compréhension de leurs limites, et les deux moitiés de cette phrase sont vraies en même temps.

À retenir

Tversky et Kahneman ont montré que l'esprit répond couramment à des questions difficiles de probabilité en leur substituant des questions plus faciles, à l'aide de raccourcis mentaux appelés heuristiques qui fonctionnent généralement mais échouent de façon systématique et prévisible. Les trois raccourcis centraux sont la disponibilité, qui juge la fréquence d'après la facilité avec laquelle des exemples viennent à l'esprit et gonfle ainsi le risque ressenti des événements rares et frappants ; la représentativité, qui juge l'appartenance à une catégorie d'après la ressemblance avec un prototype et produit le sophisme de la conjonction du problème de Linda ainsi que la négligence de la fréquence de base ; et l'ancrage, dans lequel un nombre initial, même manifestement aléatoire, tire les estimations finales vers lui parce que nous ajustons trop peu. Au-delà de ceux-là, la tradition a documenté l'excès de confiance, le biais rétrospectif, le biais de confirmation et l'aversion à la perte, tous issus d'une collaboration commencée en 1969 et rassemblée dans le volume de 1982 Judgment Under Uncertainty. Le programme adverse de Gerd Gigerenzer soutient que de tels raccourcis sont souvent adaptatifs plutôt que défectueux lorsqu'ils sont ajustés aux environnements dans lesquels ils ont évolué, et la vision mûrie intègre les deux tableaux. Le cadre théorique a remodelé l'économie comportementale, la médecine, les politiques publiques et la conception des coups de pouce, et bien qu'on lui ait justement reproché de s'appuyer sur des tâches artificielles et de tracer des frontières floues quant au moment où une heuristique s'enclenche, son affirmation fondamentale, à savoir que l'erreur humaine possède une structure repérable plutôt que d'être un simple bruit, s'est révélée à la fois durable et lourde de conséquences.