Le parole sono importanti

Sono passati sei anni.Il 23 marzo 2018, Walter Huang, un ingegnere della Apple,era a bordo della sua Tesla Model X. Dopo aver lasciato il figlio a scuola, Huang si è diretto verso l’ufficio. Ma non ci è mai arrivato.Huang è morto mentre non era alla guida della sua Teslache si è schiantata contro una barriera di cementosulla Highway 101 a quasi 70 miglia all’ora (più di 100 chilometri all’ora).Alla guida c’era invece Autopilot. Autopilot è un prodotto dellaTesla. È ilsistema che consente all’automobile elettrica americana di guidarsi da sola. La legge impone alla casa diElon Muskdi richiedere al guidatore una attenzione costante per correggere eventuali errori dell’intelligenza artificiale, sicché in teoria il guidatore deve tenere sempre le mani sul volante. Mal’Autopilot-a partire dal nome stesso-suggerisce che il guidatore possa anche fare altromentre l’auto percorre il tragitto desiderato. Secondo gli investigatori, l’iPhone di Huang era acceso al momento dell’impatto e stava facendo girare un’applicazione: un gioco di strategia chiamato Three Kingdoms. In un tribunaledi San José nella Silicon Valley, in questi giorni,è in discussione il caso di Huang. Tra gli aspetti oggetto di discussione c’è ancora una volta laresponsabilità di chi ha deciso di chiamare quel prodotto con il termine Autopilot: una parola che può generare aspettative distorte rispetto alla realtà. Gli avvocati difensori sostengono che Huang doveva tenere le mani sul volante ma l’accusa sottolinea chela macchina suggeriscein un modo piuttosto subdolo che quell’obbligo sia una formalità e che in realtàsia possibile lasciare la guida all’Autopilot. E il problema è questo: il management della Tesla sa che questa percezione ingannevole può condurre a incidenti? E fa abbastanza per impedirli? Nel corso delle indagini è saltata fuori unamail di Jon McNeill, allora dirigente alla Tesla, che diceva nel 2016: «Mi sono trovato così sicuro lasciando a Autopilot la guida che ho lasciato perdere la strada e mi sono immerso nella mia corrispondenza di mail e telefonate (lo so, lo so, non è l’utilizzo raccomandato della macchina)». La mail era indirizzata a Sterling Anderson che si occupava dell’automazione della Tesla e in cc c’eraElon Musk. Le parole ingannevoli nell’intelligenza artificiale sono innumerevoli. Da “learning” a “chat” si allude sempre a funzioni svolte dal cervello umano anche se è chiaro che quello che le macchine fanno è molto specifico. Non sapendo perfettamente come funziona il cervello, ovviamente, può darsi che alla fine si scopra che è a sua volta sa fare statistiche e correlazioni ma è probabile che non sappia fare solo quello e che non sia quella la sua facoltà principale. Mentrela macchina della quale stiamo parlando è essenzialmente un gestore potentissimo di statistiche e correlazioni.Le soluzioni che produce, il progresso che ha davanti e gli errori che commette sono diversi da quelli del cervello umano. E uno dei problemi che in fondo sarebbero più semplici da risolvere sarebbe quello dimodificare la nomenclatura dell’intelligenza artificialeper eliminare le ambiguità. Che di per sé sono pericolose perché fanno pensare che si possa chiedere una risposta veritiera aChatGPTo che si possa affidare la vita delle persone all’Autopilot.