Il 18 marzo 2018, a Tempe, in Arizona, una donna in bicicletta è stata investita di notte da un’auto a guida autonoma di Uber: sul veicolo, che viaggiava in modalità automatica, era presente il guidatore, che però pare fosse distratto o impossibilitato ad evitare l’incidente.
A seguito di alcune indagini è stato appurato che il software di rilevamento della Volvo XC90 si fosse accorto della presenza della ciclista, ma abbia valutato che non ci fossero le condizioni per permettere al veicolo di frenare in tempo. In questi casi il dispositivo di sicurezza dovrebbe cercare di evitare il contatto sterzando violentemente, ma anche qui non era possibile perché al lato della strada stavano passando dei pedoni e sarebbero stati travolti.
Da qui la decisione che ha sconvolto e interrotto molte ricerche: in caso di evento non pronosticabile e con condizioni sconosciute, il software ha deciso di ignorare la ciclista e quindi travolgerla.
Due sono i dati sorprendenti ed inquietanti:
- Il primo è ovviamente la freddezza, o meglio la mancanza di dati, che portano il computer ad ignorare una vita umana causando una tragedia.
- L’incredibile intelligenza (quasi emotiva?) con cui la macchina decide di non poter svoltare perché travolgerebbe persone esterne al fatto. Qui si entra nell’etica, si entra in un territorio in cui gli umani disquisiscono da tempo e non sono arrivati ad una soluzione, il famoso Problema del carrello ferroviario:
Nella versione originale, un autista di un tram conduce un veicolo capace solo di cambiare rotaia (tramite deviatoio), senza la possibilità di frenare. Sul binario percorso si trovano cinque persone legate e incapaci di muoversi e il tram è diretto verso di loro. Tra il tram e le persone legate si diparte un secondo binario parallelo, sul quale è presente una persona legata e impossibilitata a muoversi. La persona nei pressi del deviatoio si trova di fronte un’alternativa che comporta due sole opzioni: lasciare che il tram prosegua dritto la sua corsa, uccidendo le cinque persone, oppure azionare lo scambio e ucciderne una sola.
Ognuno di noi sta pensando a cosa farebbe, probabilmente non esiste una cosa giusta e una sbagliata. Ed è proprio qui il problema: in mancanza di dati e di programmazione qualsiasi software va in tilt, ignorando quindi la problematica o peggio ancora rispondendo in maniera sconosciuta, sviluppando una sorta di apprendimento situazionale.
Come possiamo pensare che le auto e i robot risolvano un dilemma che noi non siamo ancora riusciti a risolvere?
Certo, dai dati sono molte più le persone che sono state salvate dalla guida assistita che le vittime, molto probabilmente converrebbe continuare con le ricerche.
Ma delle vittime ci sono state e ci saranno, ne vale la pena?
Ecco, un’altra volta il problema del carrello ferroviario.
