IA, gli esperti avvertono sul «rischio di estinzione»
“Mitigare il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”.
È quanto recita la laconica dichiarazione di 22 parole diffusa il 30 maggio dal Center for AI Safety (Cais), un’organizzazione no-profit con sede a San Francisco, e sottoscritta da oltre 350 dirigenti, ricercatori e ingegneri che si occupano di intelligenza artificiale. Tra i firmatari anche Sam Altman, Ceo di OpenAI, oltre a Demis Hassabis, Amministratore delegato di Google DeepMind, e Dario Amodei, cofondatore e a della startup Anthropic.
I toni apocalittici non sono una novità. In un articolo apparso a fine marzo sul Time, il teorico dell’IA Eliezer Yudkowsky, cofondatore del Machine Intelligence Research Institute, ha utilizzato le stesse parole spingendosi a sostenere che se non spegniamo le macchine «moriremo tutti».
Yudkowsky è tra le personalità che hanno aderito all’appello insieme ai “padrini” dell’IA Geoffrey Hinton e Yoshua Bengio, che nel 2018 vinsero con Yann LeCun il Premio Turing, considerato il Nobel dell’informatica, per il loro lavoro pioneristico sulle reti neurali artificiali e il deep learning, i modelli alla base dell’intelligenza artificiale generativa.
Yann LeCun è l’attuale Chief AI Scientist di Meta, ma il Cais ha fatto sapere in una nota del 30 maggio che i leader della società guidata da Mark Zuckerberg non hanno firmato il documento.
La lettera aperta segue quella pubblicata a marzo di quest’anno, nella quale oltre 31.000 persone – incluso Elon Musk e lo stesso LeCun – hanno chiesto di “sospendere immediatamente per almeno 6 mesi l’addestramento di sistemi di intelligenza artificiale più potenti di GPT-4”.
All’inizio del mese Hinton si è dimesso da Google, dove lavorava da oltre 10 anni in seguito all’acquisizione di DNNresearch nel marzo 2013, dichiarando di aver abbandonato l’azienda «per poter parlare dei pericoli dell’intelligenza artificiale». «Viviamo in tempi molto incerti – aveva commentato in quell’occasione su Twitter – È possibile che mi sbagli totalmente sul fatto che l’intelligenza digitale ci sorpassi. Nessuno sa davvero quale sia il motivo per cui dovremmo preoccuparci ora».
I governi, intanto, stanno cercando di correre ai ripari. L’11 maggio il Parlamento europeo ha dato il primo via libera all’AI Act, una proposta di legge che ha l’obiettivo di “garantire uno sviluppo umano-centrico ed etico dell’intelligenza artificiale”.
Il regolamento europeo prevede la classificazione dei sistemi di IA in base al rischio secondo una scala che va da “basso” a “inaccettabile”. In quest’ultima categoria rientrerebbero, e sarebbero pertanto vietati, i sistemi di riconoscimento biometrico, di polizia predittiva e di riconoscimento delle emozioni da parte delle forze dell’ordine.
La settimana prima, la Casa Bianca aveva convocato i principali leader dell’IA annunciando contestualmente una serie di misure come l’implementazione della Carta dei diritti dell’AI e dell’AI Risk Management Framework, oltre a un investimento da 140 milioni di dollari a favore di 7 nuovi centri di ricerca per l’intelligenza artificiale.
Domani Altman incontrerà la presidente della Commissione europea Ursula von der Leyen. «Se questa tecnologia va storta, può andare molto storta», ha affermato il padre di ChatGPT chiamato a testimoniare il 16 maggio davanti al Congresso degli Stati Uniti.
Nel corso dell’audizione, Altman ha auspicato la creazione di un’agenzia governativa o su scala più ampia che conceda i sistemi di intelligenza artificiale in licenza e abbia il potere di «togliere quella licenza e garantire il rispetto degli standard di sicurezza».
