Tout le monde a des préjugés. Et tout le monde sait que tout le monde a des préjugés, et que ces préjugés affectent nos jugements. Les préjugés sont explicables, et notre cerveau aime les choses qu’il peut expliquer.

L’un des principaux explicatifs de nos préjugés est l’économiste Daniel Kahneman, célèbre pour une victoire au prix Nobel et son livre Penser, rapide et lent. Il fait désormais équipe avec Olivier Sibony et Cass Sunstein pour écrire un livre… C’est… pas sur la partialité. intitulé Bruit: une faille dans le jugement humain, il traite – vous l’avez deviné – du bruit, de la variabilité entre les jugements humains qui est le résultat de la variabilité des humains. Nous avons des tempéraments et des personnalités distincts; nous sommes différents les uns des autres, et nous sommes différents de nous-mêmes, certainement d’année en année, mais aussi même d’heure en heure.

Tout ce bruit est totalement correct. Mais ce n’est absolument pas correct quand cela signifie qu’un petit voleur est libéré sous caution tandis qu’un autre doit attendre son procès en prison, ou qu’un demandeur d’asile est admis aux États-Unis alors qu’un autre ne le fait pas, ou qu’un enfant à risque d’abus est transféré en famille d’accueil tandis qu’un autre reste en attente – tout cela parce qu’ils ont vu un juge particulier un matin donné.

La fin du bruit

Le but du livre est d’éliminer le bruit. La première étape consiste à le reconnaître, ce qui n’est pas facile. Contrairement au biais, le bruit n’est pas facilement reconnu. Mais il contribue tout autant aux erreurs que le biais. Ainsi, l’éliminer peut réduire les erreurs tout autant que l’élimination des biais.

dans Penser, rapide et lent, Kahneman a décrit le travail du prix Nobel qu’il a fait avec Amos Tversky sur les nombreux biais cognitifs qui façonnent souvent les décisions des individus et les amènent à se tromper. bruit développe ces idées pour explorer pourquoi des groupes de personnes font des erreurs et comment y faire face lorsqu’ils le font.

La section la plus longue du livre est consacrée à la définition et à l’identification du bruit , une justification des mesures décrites dans le reste du texte. « Le bruit est une variabilité dans les jugements qui devrait être identique », expliquent les auteurs.

Ils ne parlent pas de questions subjectives de goût, comme les critiques de films ou les évaluations de vin, sur lesquelles il devrait évidemment y avoir des divergences d’opinion. Ils parlent de questions comme la justice pénale et le diagnostic médical, dans lesquelles l’absence de consensus ne devrait pas exister, mais c’est le cas. Et il existe à un degré beaucoup, beaucoup plus élevé que vous ne l’imaginez: lorsqu’on leur montre une paire d’empreintes digitales une deuxième fois des mois après les avoir vus pour la première fois, les analystes judiciaires prennent des décisions différentes quant à savoir si elles correspondent à environ 10 pour cent du temps.

Ce bruit peut être dû à certains facteurs aléatoires : les médecins prescrivent plus de dépistages du cancer le matin et prescrivent plus d’opioïdes (mais pas d’autres médicaments contre la douleur) l’après-midi. Les gens peuvent vouloir penser que leurs destins sur des questions très importantes sont déterminés par l’un d’un groupe d’experts chevronnés, attentionnés et interchangeables qui représentent un système et non leurs propres valeurs individuelles à ce moment-là. Mais leurs destins sont, en fait, déterminés par un processus beaucoup plus proche d’une loterie (les loteries sont beaucoup citées dans bruit). L’expert qui prend la décision est essentiellement choisi au hasard, et son opinion peut différer énormément de celle d’autres experts. Et ce n’est pas juste.

Un aspect clé de l’identification du bruit que les auteurs soulignent est que « nous n’avons pas besoin de savoir qui a raison de mesurer à quel point les jugements des mêmes cas varient ». Dans de nombreux jugements, la vraie ou la bonne réponse est inconnue ou inconnaissable; pour d’autres, il n’existe peut-être même pas. Mais cela n’a pas d’importance pour reconnaître les problèmes. Les avis d’experts devraient encore être regroupés. S’ils ne le font pas, le système est bruyant. (S’ils le font, les juges pourraient toujours tous être biaisés de la même manière, mais comme nous l’avons mentionné précédemment, ce n’est pas un problème de bruit.)

Une meilleure hygiène

Pour réduire le bruit, les auteurs prescrivent un régime qu’ils appellent « hygiène de décision », qui est à peu près aussi peu sexy qu’il n’y paraît. Et ils l’ont nommé ainsi précisément pour cette raison. Ils le ressemblent au lavage des mains, qui est largement connu pour faire des merveilles pour prévenir la propagation des agents pathogènes – bien que lorsque vous le faites, vous ne savez pas exactement quels agents pathogènes vous empêchez de se propager, et vous ne le saurez jamais.

Les auteurs postulent que l’hygiène de décision réduira les erreurs induites par le bruit, mais nous ne saurons jamais lesquelles. L’analogie ne s’arrête pas là; ils notent que le lavage des mains est également connu pour être une sorte de tracas ennuyeux, donc même si c’est simple et extrêmement efficace, beaucoup de gens qui sont conscients qu’ils devraient être trop souvent, ne le faites pas. L’hygiène de décision est similaire.

Une façon dont les auteurs suggèrent que nous faisons de meilleurs jugements et prédictions est d’avoir de meilleurs juges et prédicteurs. Et qui pourraient-ils être? Il s’avère que ce sont des gens qui ne sont pas seulement prêts à changer d’avis face à de nouvelles informations, mais ceux qui sortent et cherchent de nouvelles informations qui remettent en question leurs opinions étroitement détenues. Ils sont « activement ouverts d’esprit » ou dans un état de « bêta perpétuel » – ils intègrent constamment de nouvelles idées et perspectives, s’analysent et s’affinent constamment et perfectionnent leurs points de vue. Ils n’adhèrent pas à des consistances insensées.

Ils sonnent exactement le contraire des experts politiques du monde entier et de nombreuses autorités que nous vénérons actuellement.

Extraits sonores

Chaque chapitre se termine par une liste de points de discussion, comme une bobine de surbrillance soundbite-y du contenu. Ceux-ci sont entre guillemets, même s’ils ne sont pas des lignes textuelles levées de n’importe où dans le chapitre (cela doit être le shtick de Kahneman, comme il le fait dans Penser, rapide et lent aussi).

Les citations non citées sont étranges, d’autant plus que bruit a tellement de phrases réellement citeables. Considérez ce joyau: « L’évidence de ce fait [that the future is unpredictable] n’a d’égal que la régularité avec laquelle il est ignoré. Ou celui-ci, sur les problèmes que les gens peuvent avoir avec les stratégies d’atténuation du bruit: « Bien que nous répondions à ces objections aussi bien que possible, nous ne les approuvons en aucun cas. »

Et Kahneman, Sibony et Sunstein ne peuvent s’attendre à ce que les objections ne manquent pas. L’un d’eux est que les gens, en particulier les experts formés, aiment penser que leur expérience et leurs intuitions et leurs sentiments intestinaux sont inestimables. Ils veulent utiliser leur pouvoir discrétionnaire; ils se rebellent contre l’idée que leur intuition pourrait être supplantée par un algorithme (bien que Kahneman and Co. insistent sur le fait que cela éliminerait certainement le bruit). Mais « le but du jugement est l’exactitude, pas l’expression individuelle », écrivent les auteurs. La créativité et les valeurs personnelles ont certainement leur place. Mais pas s’ils mènent à l’injustice.