Noise. A Flaw in Human Judgment
Noise analizza la variabilità casuale e indesiderata nei giudizi umani, evidenziando come questa incoerenza porti a decisioni imprecise e imprevedibili anche tra esperti.
C'è un esperimento mentale che Daniel Kahneman propone ai lettori di Noise: immaginate di sottoporre lo stesso caso clinico a dieci medici diversi, o la stessa pratica assicurativa a dieci sottoscrittori, o lo stesso curriculum a dieci selezionatori. Quante risposte identiche vi aspettate? La maggior parte delle persone stima una varianza del dieci, forse quindici per cento. La realtà misurata è quasi sempre cinque volte superiore. Questo scarto tra aspettativa e dato è il cuore del problema che Kahneman, insieme a Olivier Sibony e Cass Sunstein, ha chiamato rumore: la variabilità casuale e imprevedibile nei giudizi che, per qualsiasi criterio razionale, dovrebbero essere identici.
Il bias cognitivo era già noto. Kahneman stesso lo aveva reso familiare con Thinking, Fast and Slow: tendiamo a sottostimare i tempi di completamento dei progetti, siamo attratti dalle informazioni che confermano le nostre credenze, la vivacità di un'immagine distorce la nostra valutazione della sua probabilità. Il bias ha una direzione: sbaglia sempre nello stesso senso, quindi in linea di principio può essere corretto. Il rumore no. È dispersione pura. Due giudici che esaminano lo stesso imputato per lo stesso reato possono differire di anni nella pena raccomandata, non perché uno sia più severo dell'altro in modo sistematico, ma perché ciascuno risponde a una costellazione di fattori che nessuno dei due riesce a controllare, e spesso nemmeno a riconoscere.
La tassonomia che Kahneman introduce è precisa. Il rumore di livello descrive le differenze stabili tra individui: il giudice A è mediamente più severo del giudice B, indipendentemente dal caso. Più sottile è il rumore di schema: lo stesso giudice A può essere più severo del giudice B sui reati finanziari e più lassista su quelli violenti, rivelando non una soglia diversa ma una gerarchia di valori divergente. Il rumore d'occasione, il più evocativo narrativamente, ma non necessariamente il più rilevante quantitativamente, è la variabilità intra-individuale: lo stesso giudice che cambia sentenza tra il mattino e il pomeriggio, lo stesso medico che prescrive più oppioidi a fine giornata, lo stesso sommelier che contraddice se stesso sull'ottanta per cento dei vini quando li assaggia due volte.
Il rumore è più difficile da vedere del bias, e proprio per questo più costoso. I sistemi istituzionali sono costruiti sull'assunzione implicita che professionisti equivalenti, di fronte agli stessi dati, producano giudizi convergenti. Questa assunzione non viene verificata perché verificarla sarebbe scomodo: rivelerebbe che gran parte della legittimità percepita di un sistema, giudiziario, medico, assicurativo, poggia su una coerenza che non esiste. Kahneman chiama questo meccanismo illusione di accordo: gli esperti non discutono le loro valutazioni reciproche semplicemente perché non le confrontano mai in modo sistematico.
Lo strumento che il libro propone per rompere questa illusione è il noise audit: sottoporre gli stessi casi a più valutatori indipendenti e misurare la varianza prima ancora di cercare soluzioni. Non è uno strumento correttivo, è diagnostico, e la diagnosi viene prima perché le organizzazioni che hanno un problema di rumore di solito preferiscono non saperlo ufficialmente.
Le soluzioni proposte sono volutamente graduali. Non si tratta di sostituire il medico con un algoritmo o il giudice con un modello predittivo, ma di strutturare il giudizio umano in modo da ridurne la deriva casuale: punteggi espressi in modo indipendente prima della deliberazione collettiva, checklist che forzano l'esplicitazione dei criteri, interviste predittive con dimensioni valutate separatamente. La scoperta di Paul Meehl, ripresa da Kahneman, è controintuitiva ma solida: un modello lineare costruito sui giudizi di un esperto supera l'esperto stesso nelle previsioni reali, non perché sia più intelligente, ma perché produce lo stesso giudizio ogni volta. L'esperto è rumoroso; il suo modello no.
Questa scoperta ha implicazioni che vanno oltre la gestione aziendale. Se la replica meccanica di un ragionamento esperto è più affidabile dell'originale, cosa rimane di distintivo nel giudizio umano? La risposta di Kahneman non è nichilista: rimane la capacità di riconoscere quando un caso è genuinamente eccezionale, quando le variabili rilevanti cambiano, quando il modello non va applicato. Ma questa capacità è rara e non scalabile. Per la massa dei giudizi ordinari, la sentenza nel caso di routine, la diagnosi della malattia comune, la valutazione del candidato standard, la struttura meccanica batte la discrezionalità umana.
Il problema più irrisolto del libro è il confine tra giudizi ordinari e giudizi eccezionali. Kahneman introduce il concetto di optimal noise, un livello residuo di variabilità inevitabile, ma non fornisce criteri per determinarlo. Quando le linee guida sentenziali americane del 1984 ridussero drasticamente la varianza nelle pene, i critici non avevano torto: il prezzo dell'uniformità fu una rigidità che non lasciava spazio alle circostanze individuali. La tensione tra giustizia come coerenza e giustizia come adattamento contestuale non ha una soluzione tecnica. È una scelta di valore, e nessun algoritmo può farla al posto nostro.
Qui la questione tecnica si apre su quella politica. Chi decide quanta variabilità è tollerabile, e in quale direzione ridurla, esercita un potere reale sulle vite delle persone sottoposte a quei giudizi. Delegare questa scelta all'ottimizzazione algoritmica non la neutralizza: la nasconde. Un sistema rumoroso è ingiusto in modo visibile e contestabile; un sistema algoritmico può esserlo in modo opaco e sistematico, con bias incorporati nei dati storici che nessun noise audit individua. Tra i due, il secondo è più pericoloso, non perché produca più ingiustizia, ma perché la rende invisibile. La riduzione del rumore è urgente; non è però sufficiente.
Quello che Kahneman ha fatto con Noise è rendere misurabile qualcosa che tutti intuivano ma nessuno quantificava: la distanza tra la coerenza che i sistemi promettono e quella che effettivamente producono. La domanda su chi risponde di quella distanza, e a chi, non appartiene alla scienza comportamentale. Appartiene alla politica, e finché non viene posta lì, ogni noise audit resta un esercizio autoreferenziale.
Raffaele Maurici
Innovation Agency