Perù: ChatGPT è intervenuto in una sentenza di divorzio
Se in Italia, a seguito dell’intervento del Garante per la protezione dei dati personali, dovremo aspettare almeno fino al 1° maggio per poter riutilizzare ChatGPT, qualcuno nel resto del mondo sta utilizzando l’intelligenza artificiale addirittura nelle sentenze giudiziarie. A marzo è accaduto in Perù, dove un giudice della Corte Superior de Justicia de Lima Sur l’ha usata per motivare una sentenza di secondo grado legata al diritto di famiglia: il rapido calcolo effettuato a partire dal reddito di una coppia di genitori per stabilire equamente quanti soldi dovessero destinare al mantenimento della propria figlia è stato affidato interamente a ChatGPT.
Flores Garcia e Frank Paul hanno spiegato che “attraverso l’ausilio della piattaforma di Intelligenza Artificiale di Open AI – ChatGTP, è opportuno applicare la tecnica della proporzione matematica, al fine di stabilire qual è il contributo che corrisponde a ciascun genitore, secondo le loro entrate, per far fronte alle spese vive della loro figlia”. Secondo i calcoli dell’algoritmo, che ha confermato la decisione di primo grado, il padre (che aveva presentato il ricorso) dovrà contribuire con il 20% del proprio reddito mensile, in proporzione alle “possibilità economiche e condizioni personali” dei 2 genitori.
Ma perché ricorrere a uno strumento simile per un calcolo così poco complesso? Secondo i più critici, oltre a essere un caso che avrebbe potuto tranquillamente essere risolto senza l’intervento dell’intelligenza artificiale, presenta altre 2 problematiche: per prima cosa, i giudici del tribunale civile transitorio di San Juan de Miraflores, del distretto giudiziario di Lima Sud, non sarebbero stati trasparenti sul modo in cui hanno utilizzato il sistema, non rivelando né il prompt, ovvero l’input dato a Chat GPT, né la risposta o le risposte ricevute dal sistema.
Inoltre, dalla sentenza emerge che i giudici non avessero grandi familiarità con il funzionamento dello strumento, perché non erano a conoscenza del fatto che questi tipi di algoritmi non sono addestrati per eseguire calcoli matematici precisi. Contrariamente a quanto si potrebbe pensare, infatti, nonostante il bot risponda correttamente a molte domande aritmetiche di base, inciampa quando queste sono scritte in linguaggio “naturale”. Perché, secondo gli esperti, Chat GPT risponde con numeri grammaticalmente corretti ma matematicamente sbagliati. E non conoscere questo e altri limiti di ChatGPT potrebbe voler dire non saperne individuare nemmeno i rischi.
Ma la sentenza peruviana non è un unicum: in Messico un giudice si è servito dell’AI in un ricorso presentato contro una prima sentenza che riguardava l’uso delle parole “ya sabes quién” (“sai chi”), utilizzata negli annunci elettorali da un partito candidato. Il caso volva chiarire se l’uso dell’espressione potesse generare una situazione di squilibrio nella campagna pre-elettorale. Nelle motivazioni della sentenza il giudice Rodríguez Mondragón, a differenza del collega peruviano, ha riportato espressamente le domande che ha posto a ChatGPT e ha proposto di affidarsi a sistemi simili per redigere sentenze giudiziarie.
Anche in questo caso, però, pare che il giudice messicano non ne conoscesse i limiti: questi sistemi non sono l’ideale per rispondere a a domande su questioni fattuali perché possono fornire informazioni errate e imprecise, spesso mescolando elementi fittizi.
In Colombia un giudice ha ammesso di aver utilizzato ChatGPT per stabilire se l’assicurazione di un bambino autistico dovesse coprire tutti i costi delle sue cure mediche. Secondo il Guardian, avrebbe chiesto all’AI: “Un minore autistico è esonerato dal pagamento delle tasse per le sue terapie?”. La risposta di ChatGPT corrispondeva alla decisione finale del giudice: “Sì, è corretto. Secondo le normative in Colombia, i minori con diagnosi di autismo sono esentati dal pagamento delle tasse per le loro terapie”.
In India, all’inizio del mese, l’Alta Corte del Punjab e dell’Haryana è stata la prima nello Stato a utilizzare Chat GPT per decidere relativamente alla richiesta di rilascio su cauzione di un accusato. E in Pakistan una corte ha sperimentato l’intelligenza artificiale per decidere se concedere o meno la libertà su cauzione in un caso di stupro.
Tutti questi eventi hanno sollevato un dibattito riguardo l’uso dell’AI nel contesto giudiziario: l’Unesco, per esempio, spiega che, “nel campo della giustizia penale, l’uso di sistemi di intelligenza artificiale per fornire assistenza investigativa e automatizzare i processi decisionali è già in atto in molti sistemi giudiziari in tutto il mondo”. Per questo, l’Organizzazione delle Nazioni Unite per l’educazione, la scienza e la cultura propone corsi di formazione online per sfruttare “l’enorme potenziale” dell’intelligenza artificiale “da utilizzare per il bene sociale e il raggiungimento degli Obiettivi di Sviluppo Sostenibile”. Perché “le tecnologie basate sull’intelligenza artificiale offrono grandi opportunità se sono sviluppate nel rispetto di norme, etica e standard universali e se sono ancorate a valori basati sui diritti umani e sullo sviluppo sostenibile”.
Ma pare che sia lo stesso Chatbot a essere preoccupato per il suo nuovo ruolo nel sistema giudiziario: interpellato dal Guardian, ha spiegato che “i giudici non dovrebbero usare ChatGPT quando si pronunciano su casi legali… Non sostituisce la conoscenza, l’esperienza e il giudizio di un giudice umano”.
