Perché non perdoniamo gli errori alle macchine (ma li tolleriamo agli esseri umani)?

Un viaggio tra numeri, bias cognitivi e algoritmi imperfetti

Ogni giorno, nel mondo, migliaia di incidenti stradali sono causati da esseri umani. Una distrazione, un colpo di sonno, un comportamento rischioso, e le conseguenze possono essere gravi o fatali. Eppure, la collettività accetta questo rischio come “normale”.

Quando, però, un solo veicolo autonomo commette un errore, l’indignazione collettiva è immediata. I titoli di giornale si moltiplicano, i progetti vengono messi in pausa, i test sospesi. È successo di recente a Las Vegas, dove un’auto del progetto Zoox (Amazon) è stata coinvolta in un incidente: risultato, test sospesi e software ritirato.

Ma perché questo doppio standard? Perché siamo indulgenti con l’errore umano ma implacabili con quello della macchina?

La perfezione come pretesa verso la macchina

L’aspettativa nei confronti della tecnologia è spesso irrealistica: ci aspettiamo che le macchine non sbaglino mai. Questa aspettativa è figlia della nostra idea di razionalità: mentre l’essere umano è fallibile, emotivo, distratto, la macchina dovrebbe essere fredda, precisa, matematica.

Eppure anche i modelli matematici più sofisticati, su cui si basano gli algoritmi di guida autonoma, sono approssimazioni della realtà. I dati su cui sono addestrati non sono infiniti, le condizioni ambientali non sono sempre prevedibili, e la stessa probabilità di errore non può mai essere annullata.

Come spiegare allora la nostra intolleranza verso gli errori algoritmici?

Matematica e rischio: il caso dell’auto a guida autonoma

Proviamo a quantificare. In base a stime ufficiali, ogni anno nel mondo si verificano circa 1,3 milioni di morti per incidenti stradali. Circa il 94% di questi incidenti è causato da errore umano (fonte: WHO, NHTSA). Ora immaginiamo un sistema di guida autonoma che, su scala, riesca a ridurre del 90% questi eventi.

Sarebbe una rivoluzione storica, in termini di vite salvate. Ma se anche con milioni di chilometri percorsi in sicurezza, un solo errore fatale da parte dell’AI viene amplificato, si blocca il progresso. Questo comportamento sociale è profondamente irrazionale.

È come se il nostro cervello non riuscisse a gestire correttamente il concetto di rischio relativo e probabilità condizionata.

Bias cognitivi e doppi standard

La psicologia cognitiva ci aiuta a comprendere meglio. Alcuni bias cognitivi sono particolarmente rilevanti in questo contesto:

• Automation Bias: tendiamo a sovrastimare l’accuratezza dei sistemi automatizzati, affidandoci ad essi in modo quasi cieco… fino a quando non sbagliano.

• Outcome Bias: giudichiamo una decisione solo in base al risultato, non al processo o alle probabilità.

• Moral Outrage Bias: la rabbia morale verso un errore “freddo” e impersonale, come quello di una macchina, è più intensa che verso lo stesso errore commesso da un essere umano.

• Algoretic Bias: la tendenza a valutare negativamente decisioni prese da algoritmi, soprattutto quando hanno impatti morali o etici.

Tutti questi bias portano a giudizi distorti. L’errore umano è “umano”, fa parte del gioco. L’errore algoritmico è “un’aberrazione”, qualcosa di inaccettabile.

Eppure, in termini puramente probabilistici, la macchina può sbagliare molto meno dell’uomo, e comunque essere oggetto di sfiducia o repulsione.

Il paradosso della trasparenza matematica

C’è un altro aspetto interessante: l’intelligibilità dell’errore. Quando un essere umano sbaglia, troviamo spesso giustificazioni. Possiamo empatizzare. Quando sbaglia un algoritmo, ci troviamo di fronte a un sistema opaco, spesso non interpretabile anche per i suoi stessi creatori.

Molti modelli di intelligenza artificiale, come le reti neurali profonde, sono delle black box. Questo significa che, anche se il modello è stato addestrato correttamente, non sempre è possibile spiegare in modo lineare il perché di una certa decisione.

La mancanza di trasparenza matematica rafforza la diffidenza: se non capisco, non mi fido. Ed è paradossale: ci fidiamo ciecamente di guidatori inesperti o stanchi, ma pretendiamo la perfezione da un sistema che – statisticamente – potrebbe essere più sicuro.

Implicazioni Etiche e Legali: chi è il responsabile quando guida la macchina?

Una delle questioni più spinose è la distribuzione della responsabilità legale in caso di incidente. Se un’auto a guida autonoma causa un danno, chi ne risponde? Il passeggero, il produttore del veicolo, lo sviluppatore del software, il fornitore del sensore, o l’algoritmo stesso (ammesso che si possa considerare “agente”)?

Dal punto di vista giuridico, i sistemi normativi sono in ritardo. In Europa, il Regolamento AI Act dell’Unione Europea (2024) inizia a fornire una cornice regolatoria per i sistemi ad alto rischio, ma non esiste ancora una responsabilità oggettiva chiara in caso di incidenti autonomi. Negli Stati Uniti, la normativa varia da Stato a Stato e la responsabilità spesso ricade ancora sul proprietario del veicolo.

Eticamente, la questione riguarda la delega della decisione. Se una macchina è programmata per scegliere “il minore dei mali” in una situazione d’emergenza (simile al celebre dilemma del carrello), quali valori guida dovrebbe seguire? Quelli dell’ingegnere, del legislatore o della società? La codifica dell’etica rimane un campo aperto e controverso, noto come machine ethics. Un esempio classico è questo: un’auto autonoma sta percorrendo una strada stretta e improvvisamente un gruppo di pedoni attraversa imprudentemente. L’unica alternativa per evitare di investirli è sterzare bruscamente, causando una collisione fatale per il passeggero a bordo. Cosa dovrebbe fare il veicolo? Salvare più vite sacrificando il proprio passeggero o proteggere chi lo ha acquistato? Qualunque sia la scelta, essa implica una gerarchia di valori morali che un ingegnere dovrà codificare in algoritmi: una responsabilità delicatissima.

L’asimmetria emozionale nella valutazione del rischio

L’essere umano non è solo un calcolatore razionale. Le neuroscienze ci dicono che le emozioni guidano molte delle nostre decisioni, soprattutto in ambito etico e sociale.

Nel valutare l’errore di una macchina, non proviamo empatia. Il nostro sistema limbico non si attiva come con una persona. L’errore della macchina non è percepito come una “caduta” comprensibile, ma come una “minaccia” fredda e inaccettabile.

È la stessa dinamica che si innesca con gli assistenti virtuali, i chatbot o i robot antropomorfi: quando si avvicinano troppo al comportamento umano, ma non lo imitano perfettamente, generano inquietudine. È il fenomeno noto come “Uncanny Valley”, la valle perturbante.

Un nuovo modello di tolleranza statistica

Forse è il momento di ripensare il nostro rapporto con l’errore. In matematica, sappiamo che nessun modello è esatto, ma alcuni sono utili. In statistica, sappiamo che l’errore è parte integrante della previsione. In ingegneria, lavoriamo con margini di tolleranza.

Possiamo allora costruire una cultura della tolleranza algoritmica, basata su:

• Analisi del rischio comparato (macchina vs uomo)

• Valutazione della probabilità di errore su base statistica

• Spiegabilità dei modelli (XAI – Explainable AI)

• Educazione critica all’uso dell’IA

La matematica, in questo, può avere un ruolo centrale: come linguaggio di precisione, ma anche come strumento per comunicare l’incertezza in modo trasparente.

Prospettive Future: tolleranza algoritmica e innovazione responsabile

La guida autonoma non è (solo) una promessa tecnologica: è una trasformazione culturale. Perché possa realizzarsi, occorre superare quella che potremmo chiamare “intolleranza algoritmica”, cioè la nostra incapacità di accettare che anche le macchine, come gli esseri umani, possano fallire – e che l’obiettivo non debba essere l’infallibilità assoluta, ma la riduzione del rischio complessivo.

Serve un cambio di paradigma: valutare l’affidabilità degli algoritmi non sulla base dell’eccezione, ma della statistica; non sull’emotività dell’errore, ma sulla sua incidenza sistemica. E soprattutto, costruire una cittadinanza digitale capace di dialogare con la tecnologia, senza idealizzarla né demonizzarla.

Solo così potremo passare dalla diffidenza alla fiducia critica, e sfruttare appieno i benefici sociali, ambientali ed economici della guida autonoma.

(36)

PubblicitàPubblicità