Partager cet article

L'histoire du créateur de la science des erreurs et de ses erreurs

Fog | Florent via Flickr CC License by

Fog | Florent via Flickr CC License by

En même temps, ce serait bien la preuve qu'il avait raison.

L'histoire d'amour entre Daniel Kahneman et Amos Tversky débute à l'été 1969. À l'époque, les deux professeurs de psychologie sont collègues à l'université hébraïque de Jérusalem. Intervenant dans un séminaire de Kahneman, Tversky, un personnage haut en couleurs, mentionne une récente étude menée par des chercheurs du Michigan et montrant comment les individus ont tendance à appréhender les statistiques. Ce travail, explique Tversky aux étudiants de Kahneman, laisse entendre que tout un chacun posséderait une connaissance intuitive des probabilités. Nous serions tous des êtres naturellement rationnels.

«Brillante présentation», commente Kahneman lorsque Tversky rend le micro «mais je n'en crois pas un mot». C'est qu'il a effectivement toutes les raisons d'être sceptique: depuis des années, ses propres recherches butent sur les défaillances de l'intuition face aux données statistiques. Et même si Kahneman est déjà passé maître dans l'art méthodologique, il n'a cessé de reproduire la même erreur: ses échantillons sont trop petits.

Kahneman sait aussi qu'il n'est pas le seul universitaire à pédaler dans la semoule. Il vient de lire un article attestant de l'ubiquité du problème: même dans les revues les plus prestigieuses et chez les experts les plus réputés du quantitatif, les effectifs sont généralement insuffisants. Et Tversky voudrait lui faire croire que l'intelligence statistique serait la chose du monde la mieux partagée?

L'essentiel de son existence, Tversky aura toujours ébloui son monde par sa sagacité et rarement croisé des contradicteurs à sa mesure. D'où sa stupéfaction face à la rebuffade de Kahneman. («Tu ne vas pas croire ce qui m'est arrivé!», dira-t-il à un collègue, titillé par le désaccord). Leur discussion lors du séminaire va se transformer en déjeuner, puis en une série de rendez-vous. Pourront-ils prouver, ensemble, que Kahneman a raison? Que lorsque nous pensons aux statistiques, nous avons tendance à nous tromper?

Une perception «déformée du monde»

Cet été-là, Kahneman et Tversky s'attellent à tester leur théorie. Ils mettent au point un questionnaire visant à mesurer les intuitions statistiques, qu'ils transmettent à des chercheurs lors de conférences scientifiques, dont celle de la Société de psychologie mathématique. De retour à Jérusalem, ils compulsent les réponses. Bon nombre de scientifiques ont fait la même erreur que Kahneman: ils accordent trop de crédit à des études menées sur de petits échantillons et «extraient davantage de certitude des données que les données n'en contiennent réellement». Non pas parce que les chercheurs auraient succombé à un excès d'optimisme, soulignent Kahneman et Tversky dans le premier article qu'ils publient conjointement en 1971, mais parce qu'ils ont été victimes d'un biais cognitif –un défaut matériel de l'esprit, semblable aux illusions d'optique que vous continuez à voir, qu'importe que vous vous sachiez pertinemment bernés par vos sens. Ici, la connaissance comme l'expertise ne peuvent rien pour vous: même les plus aguerris des professionnels souffrent d'une «perception constamment déformée du monde».

Cette exploration scientifique des biais scientifiques donnera naissance à une passion intellectuelle, qui s'étalera sur plusieurs décennies et finira par transformer à la fois la psychologie et l'économie. Kahneman et Tversky montreront combien les erreurs de jugement ne sont pas l'exception, mais la règle de la cognition humaine, et qu'elles sont le produit d'une flopée de raccourcis et de distorsions mentales que personne (ou presque) ne peut éviter. Nous ne nous comportons pas en «acteurs rationnels», comme l'ont longtemps voulu les économistes, mais en gogos relativement prévisibles, sujets d'une «rationalité limitée». Des travaux qui vaudront à Tversky la bourse MacArthur du «génie», et à Kahneman le Prix Nobel d'économie.

Dans son dernier livre, The Undoing Project, Michael Lewis nous raconte cette touchante et passionnante histoire d'une vie et d'une œuvre communes. C'est un portrait d'extrêmes qui s'attirent: si Kahneman et Tversky sont tous les deux de brillants scientifiques, Juifs israéliens athées descendants de rabbins d'Europe de l'Est, tout le reste n'est que contraste. Kahneman était fumeur, Tversky détestait les cigarettes. Kahneman était du matin, Tversky travaillait la nuit. Le bureau de Kahneman était noyé sous les papiers et les livres, Tversky était adepte des espaces spartiates –une table, un stylo. Kahneman pouvait se montrer timide, pessimiste et dépressif. Tversky était pugnace et volubile. Si Kahneman avait voulu travailler sur les bévues de l'intelligence, c'est qu'il était lui-même perclus de doutes et entendait mettre méticuleusement au jour ses propres faiblesses. Tversky, lui, semblait étudier la sottise humaine comme un astronome des galaxies lointaines.

Selon Lewis, même leurs propres collègues n'ont jamais compris comment ces deux-là avaient fait pour s'entendre, et encore moins passer tant d'heures, tous les jours, scotché dans la tête l'un de l'autre. «C'est comme si vous aviez lâché une souris blanche dans la cage d'un python», écrit Lewis, «et que vous reveniez plus tard pour trouver le rongeur en plein laïus, avec le serpent enroulé dans un coin, buvant ses paroles». Une étrange synergie qui alimentera une machine à découvertes et donnera naissance à l'économie comportementale, tout en essaimant dans les sciences du sport, de la santé, de la politique, des campagnes présidentielles ou encore de l'éducation. (Pour ne citer, au hasard, que quelques exemples des innombrables applications de leurs recherches).

La littérature psychologique, un édifice aux fondations vermoulues

Reste que malgré l'ampleur de leur influence et de leur renommée, la propre discipline de Kahneman et Tversky, la psychologie, résistera globalement à la première et plus fondamentale production de leur partenariat. Des universitaires mettront à profit leurs recherches sur le jugement et l'heuristique, tout en méconnaissant visiblement les implications de leur article originel sur les statistiques. Si même les esprits les plus affûtés des sciences psychologiques sont enclins à tourner leurs travaux de travers, alors l'effet boule de neige aurait dû tout balayer sur son passage. On aurait dû voir combien la littérature psychologique était un édifice aux fondations vermoulues et qu'elle était bourrée de données non concluantes, construites sur des erreurs inlassablement répétées.

En 1971, Kahneman et Tversky alertent sur la manière dont les scientifiques peuvent appréhender l'aléatoire –en croyant trop souvent qu'un petit échantillon est représentatif d'une population–, et soulignent le risque de «fâcheuses conséquences tout au long du processus scientifique». Mais c'est comme si l'ensemble d'une discipline allait oublier –ou simplement ignorer– ce qu'ils ont su démontrer avec tant d'humour et de clarté: que même les plus virtuoses des scientifiques, à l'instar de Danny Kahneman et d'Amos Tversky, sont susceptibles de se tromper.

Kahneman et Tversky, non plus, n'ont pas voulu trop creuser leur découverte. Leur enquête, menée auprès de leurs collègues, réussira à confirmer leur hypothèse générale –que tout le monde se trompe de manière systématique. Qui plus est, la véritable cible de leur collaboration scientifique ne sera pas être les anicroches de l'investigation scientifique –du menu fretin que cela–, mais bien les fondamentaux de l'esprit humain.

Si la collaboration de Kahneman et Tversky a pu produire un flux continu de merveilles scientifiques, leur relation personnelle sera affligée d'erreurs qu'aucun des deux compagnons n'aurait pu éviter. The Undoing Project relate leur rupture dans ses plus cruels détails. «Ça a été pire qu'une divorce», dira la femme de Tversky à Lewis. Comme s'ils avaient été maudits par leurs différentes natures –l'un délicat, l'autre torturé. En 1983, Kahneman avoue être rongé par la jalousie, car Tversky semble concentrer le flot de louanges. «Tversky ne peut rien y faire», dira Kahneman en interview à l'époque, «reste que je ne sais pas s'il fait tout ce qu'il pourrait». Il commence à se sentir rejeté et délaissé. «Le genre d'épisodes que nous avons connus hier me charcute la vie pendant plusieurs jours (du moment où je l'anticipe, à celui où je m'en remets) et je ne veux plus m'infliger cela», écrit-il à Tversky après une de leurs rencontres en 1987.

«Je conçois que mon style de réponse laisse énormément à désirer, mais tu n'es plus aussi intéressé qu'avant par les objections et les critiques, qu'elles viennent de moi ou d'autres», répond Tversky. «Parmi les choses que j'admirais le plus chez toi et dans nos travaux communs, c'était ta capacité à remettre constamment les choses en question». Dans sa lettre, Tversky reproche à Kahneman d'avoir perdu son scepticisme et sa propension à changer d'avis. «Je ne vois plus rien de tout cela dans tes attitudes et tes idées récentes», ajoute-t-il.

Après la mort de Tversky d'un mélanome en 1996 –les deux resteront en contact jusqu'à la fin–, la gloire en vient à se poser sur Kahneman. En 2002, il obtient le Prix Nobel et, en 2013, la médaille présidentielle de la liberté. Mais l'essentiel de sa célébrité, Kahneman le doit à son livre Système 1 / Système 2: Les deux vitesses de la pensée, sorti aux États-Unis en 2011 et en France l'année suivante. Une fascinante synthèse de ses travaux menés notamment avec Tversky, à qui il dédie l'ouvrage, mais aussi d'autres études de psychologie dévoilant nos innombrables biais, illusions, sophismes et négligences mentales.

Écrire ce livre terrifiera Kahneman. Selon Lewis, il redoutait qu'il tue sa réputation. (Comme tout économiste comportemental qui se respecte, il ira même jusqu'à payer ses collègues pour qu'ils lisent son manuscrit et lui disent, sous couvert d'anonymat, s'il valait mieux qu'il abandonne le projet). À sa grande surprise, Système 1 / Système 2 sera un succès colossal –autant critique que commercial– et le livre est aujourd'hui considéré comme l'apogée de sa longue carrière.

Le sceau du scandale et de l'incertitude

Reste que quelques mois après sa sortie, la psychologie s'engouffrera dans une crise sans précédent. Bon nombre des études citées par Kahneman –et bien d'autres– auront l'air subitement fragiles, voire fallacieuses. Dans son chapitre intitulé «Les merveilles de l'amorçage» [1], par exemple, Kahneman décrit comment les «idées amorcées» sont semblables aux «ondes à la surface d'un étang» et affirme que la «cartographie de ces ondes est aujourd'hui l'un des domaines les plus passionnants de la recherche en psychologie». Sauf que lorsque Kahneman met la touche finale à son ouvrage, le concept même d'amorçage sera bientôt affligé du sceau du scandale et de l'incertitude. Les falsifications d'un de ses plus éminents spécialistes sont dévoilées au grand jour. Et il s'avèrera qu'un des fondamentaux de la discipline –issu d'une «expérience qui est aussitôt devenue un classique», selon les mots de Kahneman– ne tient finalement plus très droit.

Avec l'échec de la réplication des études originales, d'autres classiques mentionnés dans le livre perdront eux aussi à perdre en solidité. Kahneman ébahit ses lecteurs avec l'histoire du stylo dans la bouche qui rend plus joyeux, de la vue de l'argent qui rend plus égoïste, et du verre de citronnade capable de restaurer votre volonté –autant d'effets désormais remis en question ou démentis.

Pourquoi? Parce que les études qui les ont démasqués relèvent justement du problème soulevé par Kahneman et Tversky: leurs auteurs se sont fait berner par leur appréhension trompeuse du hasard. Et si leurs études souffrent d'échantillons en sous-effectif, cela signifie que les faux-positifs abondent dans la littérature.

«Ces résultats ne sont pas des inventions, non plus que des anomalies statistiques. Vous n'avez d'autres choix que d'admettre la justesse des principales conclusions de ces études

 

Sauf que face à ces résultats aujourd'hui suspects, Kahneman ne laisse pas la moindre place au doute. L'«incrédulité n'est pas envisageable», écrit-il. «Ces résultats ne sont pas des inventions, non plus que des anomalies statistiques. Vous n'avez d'autres choix que d'admettre la justesse des principales conclusions de ces études. Surtout, vous devez accepter qu'elles sont valables pour vous». Et il conclut son chapitre par «un parfait exemple d'effet d'amorçage» –une étude publiée en 2006 dans laquelle deux posters, l'un représentant des fleurs et l'autre deux yeux, sont affichés dans une cuisine universitaire. Elle conclut que les membres du département concernés sont plus à même de payer leurs consommations avec le poster aux deux yeux, et qu'un indice aussi subtil de surveillance est capable d'avoir de grands effets sur les comportements humains.

Mais ce qu'ont pu prouver d'autres études sur cet «effet des yeux inquisiteurs» –avec des résultats des plus contrastés–, c'est que cette recherche est au contraire le «parfait exemple» de la fragilité des travaux sur l'amorçage.

La force des biais

La crise de la réplication en psychologie ne couvre pas l'intégralité de la science, et ce n'est qu'une partie des recherches détaillées dans Système 1 / Système 2 qui sentent désormais mauvais. Les travaux de Kahneman et Tversky, par exemple, ont jusqu'à présent pu prouver leur solidité. L'un des biais qu'ils ont découverts –que les gens ont tendance à surestimer la valeur de la première information qu'ils obtiennent, alias le biais d'ancrage– a non seulement passé l'épreuve de la réplication, mais s'est en réalité révélé bien plus fort que ce que Kahneman et Tversky avaient estimé.

Reste que des chapitres entiers du livre de Kahneman devraient être réécrits. Le psychologue Uli Schimmack a mis au point un outil statistique, l'indice R, pour mesurer la crédibilité d'un corpus de recherches en fonction de leurs tailles d'échantillons et d'effet. (Un peu comme un «contrôle antidopage pour la science», précise Schimmack). Le chercheur a ainsi passé en revue toutes les études citées dans onze chapitres de Système 1 / Système 2, auxquels il a ensuite assigné une note globale (le livre contient trente-huit chapitres). Quelques chapitres s'en sortent haut la main –avec un score oscillant entre 93 et 99, soit un A+ sur l'échelle de notation de la rigueur de Schimmack. Mais cinq autres sont particulièrement médiocres, dont celui sur l'amorçage qui obtient un score malheureux de 40 –un F. En moyenne, les chapitres analysés par Schimmack valent un C-.

Comment se fait-il que Kahneman –lui, cet homme si brillant dans son détricotage de nos faiblesses mentales, si sagace dans ses doutes, si prompt à détecter les fumisteries– ait pu endosser tant de recherches bancales? Son esprit a-t-il viré crédule, comme le laissait entendre Tversky dans sa lettre envoyée au beau milieu de leur divorce? Ou a-t-il succombé à une erreur humainement normale, comme celle découverte à la fin des années 1960, au moment de leur rencontre?

La preuve que nous sommes tous intuitivement de piètres statisticiens. Que même les scientifiques se trompent. Et que lorsqu'il s'agit d'erreurs, Kahneman a toujours raison.

1 — Toutes les citations de Système 1 / Système 2 sont issues de la traduction de Raymond Clarinard, parue chez Flammarion en 2012 –NdT Retourner à l'article

Vous devez être membre de Slate+ et connecté pour pouvoir commenter.
Pour devenir membre ou vous connecter, rendez-vous sur Slate+.
En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux. > Paramétrer > J'accepte