“Sospendete immediatamente l’intelligenza artificiale”
“Dovremmo lasciare che le macchine inondino i nostri canali di informazioni con propaganda e falsità? Dovremmo automatizzare tutti i lavori, compresi quelli soddisfacenti? Dovremmo sviluppare menti non umane che alla fine potrebbero essere più numerose, più intelligenti e sostituirci? Dovremmo rischiare di perdere il controllo della nostra civiltà?”.
Sono alcuni degli interrogativi contenuti nella lettera aperta sottoscritta da oltre 5.900 esperti, ricercatori, imprenditori e cittadini che chiedono a gran voce di “sospendere immediatamente per almeno 6 mesi l’addestramento di sistemi di intelligenza artificiale più potenti di GPT-4”.
Tra i firmatari anche Elon Musk, il cofondatore di Apple Steve Wozniak, il cofondatore di Skype Jaan Tallinn, il cofondatore di Pinterest Evan Sharp, il ceo di Getty Images Craig Peters, oltre a diversi dipendenti di Google, Microsoft e Meta – incluso il responsabile IA – e a decine di professori, borsisti ed ex allievi del Massachusetts Institute of Technlogy (Mit).
I laboratori di intelligenza artificiale e gli esperti indipendenti, si legge nel documento, dovrebbero sfruttare questa pausa “per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di intelligenza artificiale, rigorosamente verificati e supervisionati da esperti esterni indipendenti”.
“Questi protocolli dovrebbero garantire che i sistemi che vi aderiscono siano sicuri oltre ogni ragionevole dubbio”, sostengono i firmatari dell’appello, per i quali “ciò non significa una pausa nello sviluppo dell’IA in generale, ma semplicemente un passo indietro dalla pericolosa corsa a modelli black-box sempre più grandi e imprevedibili con capacità emergenti”.
Perché se ne accerti l’efficacia, la sospensione «dovrebbe essere pubblica e verificabile e includere tutti gli attori chiave. Se una tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria».
I firmatari chiedono inoltre che gli sviluppatori collaborino con i responsabili politici “per accelerare drasticamente lo sviluppo di solidi sistemi di governance dell’IA”.
Tra le misure invocate anche nuove autorità di regolamentazione, un ecosistema di audit e certificazione, l’assunzione di responsabilità per i danni causati dall’IA, finanziamenti pubblici per la ricerca tecnica sulla sua sicurezza e istituzioni dotate delle risorse adeguate per fronteggiare le “drammatiche perturbazioni economiche e politiche (soprattutto per la democrazia) che l’IA causerà”.
Dopo aver prospettato questo scenario distopico, la lettera si chiude con una nota di speranza: “L’umanità può godere di un futuro fiorente con l’IA. Dopo essere riusciti a creare potenti sistemi di intelligenza artificiale, ora possiamo goderci un’“estate di intelligenza artificiale” in cui raccogliamo i frutti, progettiamo questi sistemi per il chiaro vantaggio di tutti e diamo alla società la possibilità di adattarsi”.
”Godiamoci una lunga estate IA – è l’auspicio finale degli esperti – non precipitiamoci impreparati in una caduta”.
