Colpevolezza – Bruce Holsinger

Sarà anche vero che tutte le famiglie felici si somigliano, eppure viene da chiedersi se felici lo siano davvero? O se non vivano su un labile crinale lottando per un equilibrio che può andare distrutto in un secondo?

I coniugi Cassidy-Shaw sono una coppia speciale. Noah, avvocato in un importante studio legale, è di estrazione sociale modesta. La sua autostima traballa, messa facilmente in discussione dalla famiglia di sua moglie. Infatti, Lorelei Shaw appartiene a quelle famiglie altolocate, ricche e perfette dove tutti hanno avuto successo – la sorella Julie, avvocatessa di grido, i due fratelli maschi, Ethan e Andrew, medici in rinomati ospedali. Lorelei, poi, è una donna fuori dal comune: laureata in filosofia morale e formidabile studiosa e creatrice di algoritmi, professoressa all’università di Bethesda, da tempo si occupa di un grande dilemma della nostra epoca: l’etica dei sistemi di Intelligenza Artificiale. Si può insegnare alle macchine a essere buone? Anni prima ha vinto una McArthur Fellowship, il Genius Award, è consulente di molte società che si occupano di IA, partecipa a convegni in giro per il mondo, è amata, conosciuta e rispettata nel suo ambiente. Lorelei, però, ha un problema ben conosciuto da suo marito Noah: è un’ossessiva compulsiva vittima di attacchi di panico, perennemente preoccupata di poter causare il male agli altri o di non essere in grado di proteggerli. Soprattutto se si tratta dei suoi tre figli: Charlie, il maggiore, quasi diciottenne, Alice intorno ai quindici anni e la piccola Izzy di undici.

Ed eccoli, in un bel giorno d’estate, tutti e cinque a bordo di un van scelto proprio da Lorelei e dotato di hands free drive – un sistema di guida autonoma governato dalla IA – che si recano nel Delaware per una partita di lacrosse di cui Charlie è campione. A bordo del van ognuno svolge le sue attività: Lorelei e le figlie, sedute dietro, leggono, scrivono, chattano e ascoltano musica sui loro iPhone, mentre Charlie siede al posto di guida e, accanto a lui, Noah – laptop sulle ginocchia – scrive una relazione per l’ufficio. D’improvviso, l’urlo di Alice, la reazione istintiva di Charlie che afferra il volante interrompendo la guida automatica del van e l’impatto frontale con una vecchia Honda che sembra aver invaso la loro corsia. L’urto violento cappotta il van e lo spinge giù da una breve scarpata mentre la Honda va a fuoco e i suoi occupanti, gli anziani coniugi Drummond, muoiono carbonizzati.

Gli Shaw-Cassidy si salvano, sebbene le donne della famiglia riportino gravi lesioni. Non così per Charlie e Noah i quali, però, si sentono, ciascuno a modo suo e con reazioni diverse, responsabili di quanto successo. Noah, in particolare, teme le conseguenze legali di quanto accaduto per suo figlio. Pochi giorni dopo, infatti, si presenta da loro l’ispettrice dell’informatica forense veicolare Lacey Morrissey per chiarire i punti oscuri dell’incidente. L’aria paciosa dell’ispettrice non convince Noah, mentre Lorelei sembra serena: il guidatore di un’auto hands free non può essere ritenuto responsabile in caso di incidente. È davvero così? E allora perché, durante una breve vacanza nella baia di Chesapeake, Lorelei non fa altro che scrivere formule complesse sul suo taccuino? 

In realtà, dal momento dell’incidente niente nella famiglia Cassidy-Shaw è più come prima: troppi i silenzi, troppi i non detti, troppi i segreti che ciascuno nasconde e, si sa, ‘un segreto può fare più male di una bugia’. E le cose non migliorano quando Noah scopre, dall’altro lato della baia, l’immensa e nuova magione di Daniel Monet, magnate nell’ambito delle tecnologie high-tech; Charlie e la figlia di Monet, Eurydice, s’innamorano; Noah realizza che Monet e sua moglie si conoscono da tempo e che, addirittura, lei è una sua consulente. Dov’è finita la ‘normalità’ delle loro vite? Cos’altro gli nasconde la perfetta, razionale, bellissima e fragile Lorelei? E loro due, come genitori, cos’hanno sbagliato nell’educare i figli? Ma se queste sono le domande che Noah si pone, domande normali e umane tutto sommato, ben peggiori sono quelle nelle quali si sta dibattendo sua moglie, tutta presa da un dilemma morale che ci ricorda quello del fisico Oppenheimer di fronte all’atomica.

“L’espressione “black box”, scatola nera, si riferisce a sistemi IA i cui meccanismi interni e processi computazionali non sono né trasparenti né facilmente comprensibili per l’essere umano. … La quasi totalità dei processi decisionali di questi sistemi, compreso il modo in cui trattano eventuali vincoli etici, rimane opaca. La “black box” incarna dunque l’indecifrabilità dell’IA… In questo senso, rappresenta un presagio di un futuro di inconoscibilitá potenzialmente spaventoso.” (p. 211)

Molto deve ancora accadere da questo momento in poi. Molti i colpi di scena, gli imprevisti, le trappole in cui rischiano di sprofondare i protagonisti. Al fondo di tutto, però, rimane una domanda inquietante: se è stato l’essere umano a  creare l’IA – e a crearla in modo tale che apprenda dai suoi errori e si migliori – e poi a scegliere di affidarsi alle sue decisioni, logiche, certo, ma di sicuro non etiche, di chi alla fine sarà la colpa se qualcosa va storto in modo irrimediabile?

Un thriller che ci lascia con molte domande e non poca interna apprensione per un futuro opaco e angosciante.