Siamo pronti alle decisioni assunte da una intelligenza artificiale?

A seguito dell’indagine conoscitiva sull’impatto dell’intelligenza artificiale nel settore della giustizia, sono stato audito dalla seconda Commissione del Senato.

Alle Senatrici e ai Senatori, al termine del mio intervento ho posto una domanda: “siamo pronti ad una cinica amministrazione della giustizia amministrata da una intelligenza artificiale?”

La domanda prende spunto dall’ultimo paragrafo della memoria scritta, depositata a supporto della mia relazione.

Analisi giuridica e sociale dell’Intelligenza Artificiale nelle autovetture a guida autonoma
L’analisi del caso di studio relativo all’applicazione dell’intelligenza artificiale (IA) nelle autovetture a guida autonoma offre spunti significativi per valutazioni giuridiche e sociali.

Contesto del caso di studio
Il caso esaminato non mira a fornire una soluzione definitiva, bensì a stimolare una riflessione sul futuro scenario che si intende realizzare.

Descrizione del caso
Un’autovettura a guida autonoma, equipaggiata con un avanzato sistema di intelligenza artificiale interconnesso con milioni di banche dati è programmata per seguire quattro rigide leggi:

1. Proteggere l’incolumità del passeggero nel veicolo;
2. Proteggere l’incolumità degli altri utenti della strada;
3. Rispettare le leggi, in particolare il codice della strada;
4. Non provocare, o quanto meno limitare, i danni patrimoniali a carico del proprietario, dell’assicurazione del veicolo o di soggetti terzi potenzialmente interessati.

Immaginiamo ora, che l’autovettura a guida autonoma stia percorrendo una strada, rispettando tutte le condizioni di sicurezza: manto stradale, limiti di velocità, luminosità ambientale.
Improvvisamente, una bambina attraversa la strada, seguita da una donna che cerca disperatamente di proteggerla. L’auto, in pochi millesimi di secondo, calcola che non può evitare l’impatto con una delle due persone. Deve decidere se sterzare da un lato colpendo la bambina o dall’altro lato colpendo la donna. In entrambi i casi, l’impatto previsto è superiore a 750 kg

Decisione della AI
L’intelligenza artificiale, nel rispetto delle quattro regole sopracitate, compie le seguenti valutazioni:
Riconosce i volti delle due persone attraverso l’interconnessione dei dati presenti sui social media e su siti pubblici, determinando che la donna è un medico chirurgo con un reddito molto elevato che salva in media 174 pazienti l’anno.
Apprende che la bambina, nipote della dottoressa, ha una nonna affetta da problemi neurologici ereditari non riscontrati nella madre grazie ai recenti esami clinici a cui è stata sottoposta anche la zia.
Determina che il risarcimento del danno a carico dell’assicurazione sarebbe maggiore qualora fosse colpita la donna adulta.

Esito
La macchina, non potendo evitare l’impatto, decide di sterzare verso la bambina. L’inevitabile impatto è registrato dalle telecamere di sicurezza dell’autovettura, insieme al report di navigazione. Tutte le leggi e gli algoritmi che regolano l’operato dell’autovettura a guida autonoma sono stati rispettati, tranne uno: il libero arbitrio e la possibilità di sacrificarsi per gli altri, intrinseco nell’Uomo, come dimostrato dalle reazioni istintive in situazioni di pericolo.

Conclusione
Questo caso di studio solleva questioni fondamentali sull’etica e la responsabilità nell’utilizzo dell’intelligenza artificiale in contesti di vita reale, evidenziando la complessità delle decisioni che tali sistemi sono chiamati a prendere e le implicazioni giuridiche e sociali che ne derivano.