Parlando (ancora) di Intelligenza Artificiale (IA) mi sono detto (e ho spesso letto) che è l'uomo quello che sta seduto nella stanza dei bottoni, quello che accende o spegne l'interruttore della macchina a suo piacimento, quello che asservisce o libera il cervellone elettronico. A sostegno di questa teoria - mi sono compiaciuto nel pensarlo - vi sarebbe la capacità del millenario bipede in carne e ossa di commettere errori. Non sarebbe così se sant'Agostino (o chi prima di lui) non avesse scritto "errare humanum est", indipendentemente da come la locuzione poi si concludeva.
Ora, premesso che il problema degli errori non è farli ma correggerli, capacità quest'ultima di cui l'uomo sembra essere completamente sprovvisto, vi piacerà sapere che anche i computer, opportunamente corretti dal loro "padrone", apprendono la differenza tra il falso e il vero e, la volta successiva, difficilmente sbagliano. Una suggestiva "anatomia dell'errore", che muove da un'ipotesi sulla struttura della cognizione umana e da una (ri)definizione generale della nozione di euristica, è stata proposta da Daniel Kahneman, psicologo israeliano, premio Nobel per l'economia nel 2002 e padre della "finanza comportamentale".
L'ipotesi è che la complessa elaborazione dell'informazione nella mente umana sia presieduta da due distinti sistemi cognitivi, che Kahneman identificava semplicemente come sistema 1 e sistema 2. Le operazioni del sistema 1 sono veloci, automatiche, associative, relativamente difficili da controllare o modificare, e richiedono uno sforzo mentale minimo. Le operazioni del sistema 2, viceversa, sono più lente, deliberate, seriali e basate su regole; possono essere più facilmente controllate o modificate, ma normalmente richiedono un maggior impegno di attenzione e di memoria.
Questo, in sintesi, asseriva il mio maestro, il professor Vincenzo Bonavita, quando presentava a noi medici e al mondo le sue lezioni sui percorsi decisionali in medicina. C'è però in quelle parole - ora che abbiamo "qualcosa" che integra e supporta il nostro gran da fare materiale e intellettuale - un ben definito senso di arroganza, una maniacale certezza di primogenitura che sembra di fatto già perduta.
Passi per il "sistema 1", che potrebbe essere ancora governato da una brevità emotiva e da una imponderabilità temporale a cui le macchine per ora pare non possano proprio accedere (siamo certi però che anche quelle doti non potranno essere un giorno riprodotte attraverso un processo cognitivo più raffinato e profondo?), ma è chiaro che il "sistema 2" è già riprodotto e usato con pieno merito dal calcolatore elettronico di dati, compiti, funzioni, parole e, appunto, errori. Questi ultimi, però - a differenza di quelli fatti degli uomini, che (come ho detto) paiono non imparare mai - sono tutti emendabili con l'esercizio, il rigore e l'immensa conoscenza che solo dei computer possono avere.
Allora, se chi controlla le macchine non sarà più infallibile di loro, adducendo solo l'empatia e le emozioni come uniche armi a suo favore (guarda caso proprio quelle che governano la suggestione, la dipendenza e l'inganno di cui il mondo che verrà, anche e soprattutto a causa dell'IA, traboccherà senza sosta), mi dite quale potrà mai essere il futuro di una umanità sempre più smarrita e sperequata?
Il cosmologo, fisico, astrofisico, matematico e divulgatore scientifico britannico Stephen Hawking ha detto: "Se le macchine finiranno per produrre tutto quello di cui abbiamo bisogno, il risultato dipenderà da come le cose verranno distribuite. Tutti potranno godere di una vita serena nel tempo libero, se la ricchezza prodotta dalla macchina verrà condivisa, o la maggior parte delle persone si ritroveranno miseramente in povertà se la lobby dei proprietari delle macchine si batterà contro la redistribuzione della ricchezza
Finora, la tendenza sembra essere verso la seconda opzione, con la tecnologia che sta creando crescente disuguaglianza". La meraviglia creativa dell'uomo costituita dalla IA - perché di questo si tratta - può diventare un problema per il mondo intero se chi presume di governarla non smetterà di arrogarsi il vantaggio ora dell'errore, ora di un altro paradigma a caso di civilità, e non imparerà a guardarsi dal suo errare (in entrambe le accezioni semantiche) senza regole, giustizia o mete virtuose.
