Perù: ChatGPT è intervenuto in una sentenza di divorzio

Se in Italia, a seguito dell’intervento del Garante per la protezione dei dati personali, dovremoaspettare almeno fino al 1° maggio per poter riutilizzareChatGPT, qualcuno nel resto del mondo sta utilizzando l’intelligenza artificiale addiritturanelle sentenze giudiziarie. A marzo è accaduto inPerù, dove un giudice dellaCorte Superior de Justicia de Lima Surl’ha usata permotivareuna sentenza di secondo gradolegata aldiritto di famiglia: il rapido calcolo effettuato a partire dal reddito di una coppia di genitori per stabilire equamente quanti soldi dovessero destinare al mantenimento della propria figlia è stato affidato interamente a ChatGPT. Flores Garcia e Frank Paul hanno spiegato che “attraverso l’ausilio della piattaforma di Intelligenza Artificiale di Open AI – ChatGTP, è opportuno applicare la tecnica della proporzione matematica, al fine di stabilire qual è il contributo che corrisponde a ciascun genitore, secondo le loro entrate, per far fronte alle spese vive della loro figlia”. Secondo i calcoli dell’algoritmo, che ha confermato la decisione di primo grado,il padre(che aveva presentato il ricorso)dovrà contribuire con il 20% del proprio reddito mensile, in proporzione alle “possibilità economiche e condizioni personali” dei 2 genitori. Ma perché ricorrere a uno strumento simile per un calcolo così poco complesso?Secondo i più critici, oltre a essere un caso che avrebbe potuto tranquillamente essere risolto senza l’intervento dell’intelligenza artificiale, presenta altre 2 problematiche: per prima cosa, i giudici del tribunale civile transitorio di San Juan de Miraflores, del distretto giudiziario di Lima Sud,non sarebbero stati trasparenti sul modo in cui hanno utilizzato il sistema, non rivelando né ilprompt, ovvero l’input dato a Chat GPT, né la risposta o le risposte ricevute dal sistema. Inoltre, dalla sentenza emerge che i giudicinon avessero grandi familiarità con il funzionamento dello strumento, perché non erano a conoscenza del fatto che questi tipi di algoritminon sono addestrati per eseguire calcoli matematici precisi. Contrariamente a quanto si potrebbe pensare, infatti, nonostante il bot risponda correttamente a molte domande aritmetiche di base, inciampa quando queste sono scritte in linguaggio “naturale”. Perché, secondo gli esperti, Chat GPT risponde con numeri grammaticalmente corretti ma matematicamente sbagliati. E non conoscere questo e altri limiti di ChatGPT potrebbe voler dire non saperne individuare nemmeno i rischi. Ma la sentenza peruviana non è ununicum: in Messico un giudice si è servito dell’AI in un ricorso presentato contro una prima sentenza che riguardava l’uso delle parole “ya sabes quién” (“sai chi”), utilizzata negli annunci elettorali da un partito candidato. Il caso volva chiarire se l’uso dell’espressione potesse generare una situazione di squilibrio nella campagna pre-elettorale. Nelle motivazioni della sentenza il giudice Rodríguez Mondragón, a differenza del collega peruviano,ha riportato espressamente le domande che ha posto a ChatGPTe ha proposto di affidarsi a sistemi simili per redigere sentenze giudiziarie. Anche in questo caso, però, pare che il giudice messicano non ne conoscesse i limiti: questi sistemi non sono l’ideale per rispondere a a domande su questioni fattuali perché possono fornire informazioni errate e imprecise, spesso mescolando elementi fittizi. InColombiaun giudiceha ammesso di aver utilizzatoChatGPT per stabilire se l’assicurazione di un bambino autisticodovesse coprire tuttii costi delle sue cure mediche. Secondo ilGuardian, avrebbe chiesto all’AI: “Un minore autistico è esonerato dal pagamento delle tasse per le sue terapie?”. La risposta di ChatGPT corrispondeva alla decisione finale del giudice: “Sì, è corretto. Secondo le normative in Colombia, i minori con diagnosi di autismo sono esentati dal pagamento delle tasse per le loro terapie”. InIndia, all’inizio del mese, l’Alta Corte del Punjab e dell’Haryana è stata la prima nello Stato a utilizzare Chat GPTper decidere relativamente alla richiesta di rilasciosu cauzione di un accusato. E inPakistanuna corte ha sperimentato l’intelligenza artificiale per decidere se concedere o meno la libertà su cauzionein un caso di stupro. Tutti questi eventi hanno sollevato un dibattito riguardo l’uso dell’AI nel contesto giudiziario: l’Unesco, per esempio,spiegache, “nel campo della giustizia penale, l’uso di sistemi di intelligenza artificiale per fornire assistenza investigativa e automatizzare i processi decisionali è già in atto in molti sistemi giudiziari in tutto il mondo”. Per questo, l’Organizzazione delle Nazioni Unite per l’educazione, la scienza e la cultura propone corsi di formazione online per sfruttare “l’enorme potenziale” dell’intelligenza artificiale “da utilizzare per il bene socialee il raggiungimento degli Obiettivi di Sviluppo Sostenibile”. Perché “le tecnologie basate sull’intelligenza artificialeoffrono grandi opportunitàse sono sviluppate nel rispetto di norme, etica e standard universali e se sono ancorate a valori basati sui diritti umani e sullo sviluppo sostenibile”. Mapare che sia lo stesso Chatbot a essere preoccupato per il suo nuovo ruolonel sistema giudiziario:interpellatodalGuardian, ha spiegato che “i giudici non dovrebbero usare ChatGPT quando si pronunciano su casi legali… Non sostituisce la conoscenza, l’esperienza e il giudizio di un giudice umano”.