Anche l’intelligenza artificiale punta alla diversità

L’intelligenza artificiale(AI) si sta pian piano facendo strada all’interno della nostra quotidianità. Secondo il MIT esiste la possibilità che lateaming intelligence(l’intelligenza di squadra) tra persone e macchine diventi lanuova frontiera del futuro. Ma c’è un problema: le personenon si fidanosempre dei loro partner artificiali. Ed è proprio su questo che alcunə studiosə delMITsi stanno concentrando. Il centro di ricerca e sviluppo MIT Lincoln Laboratory (MIT-LL) ha scoperto che allenare le intelligenze artificiali in gruppo, con modellimatematicamente diversi,migliora le loro capacità dicollaborazionenel giocoHanabi. Questo è ungiocodi carte cooperativoin cui ə giocatorə devono creare uno spettacolo pirotecnico assemblando le proprie carte, ma conun numero di informazioni limitate: loro conoscono infatti le carte deə altrə ma non le proprie. Hanabi è stato spesso utilizzato quale banco di prova per verificare lacapacitàcooperativadell’intelligenza artificiale. Nel 2021 il MIT-LL lo ha testato coinvolgendo uno dei modelli di AI più bravo nel gioco con persone umane. Dall’esperimento è emerso come questenon fossero incliniafare squadra con il giocatore artificiale, considerandolo un soggetto «confuso e imprevedibile». «La conclusione è stata che ci stava sfuggendo qualcosa sulle preferenze umane – ha spiegatoRoss Allen, uno dei ricercatori del MIT-LL e coautore dell’esperimento – E non siamo ancora bravi a realizzare modelli che possano lavorare nel mondo reale». Da qui è nata la domanda che forse l’AI dovrebbe essereaddestrata diversamente. La chiave è cercare di sviluppare un modello a cui non solo importi di raggiungere l’obiettivo e massimizzare le ricompense, ma anche dicapire e adattarsialle preferenze deə compagnə. In altre parole, riporta il MIT, «diadattarsi alladiversità». Per far ciò, ə ricercatorə hanno utilizzatoAny-Play,un gioco che implementa il processo di addestramento già sperimentato con Hanabi aggiungendo un secondo obiettivo: oltre che a massimizzare il punteggio, l’intelligenza artificiale deve riuscire aidentificare correttamente la strategiadel proprio compagno, valutando le sue differenze comportamentali. «L’AI deve osservare il comportamento dei partner per identificare l’input segreto che è stato loro comunicato e deveadattarsi a questi diversi modi di giocareper ottenere poi dei buoni risultati. L’idea è che questo porterà a un modello di intelligenza artificiale capace di giocare con differenti modi e strategie», ha spiegatoKeane Lucas, uno dei ricercatori dell’esperimento. Per tirare le somme, è stata poi fatta lacomparazionecon più di 100 modelli addestrati con Hanabi e con i quali le “nuove” intelligenze artificiali collaborative (quelle di Any-Play) non avevano mai avuto rapporti. Irisultatisono stati buoni. Secondo il team di ricercatorə, questo modello (chiamatointer-algorithm cross-play) fornisce unipotetico scenariodi come l’intelligenza artificiale potrebbe comportarsi nel mondo reale. L’esperimento, però, non è stato testato con persone umane. Tuttavia, unaricercadiDeepMind(azienda inglese di intelligenza artificiale), realizzata simultaneamente all’esperimento del MIT, ha condotto un lavoro simile utilizzando sempre un approccio orientato all’addestramento sulladiversitàper sviluppare un modello di AI che fosse capace di collaborare con le persone algioco di squadra Overcooked. Dai risultati è emerso unbuon livello di cooperazionetra intelligenza artificiale e umanə, a conferma che il lavoro del MIT possa essere una buona strategia per implementare la collaborazione tra questi soggetti diversi. Ma, come ha sottolineato l’istituto americano, «Anche se i punteggi dell’inter-algorithm cross-play sono buoni indicatori delle preferenze umane, rimane comunque un’ipotesi». Per fare un passo in più, il team vuole provare acorrelare i sentimenti(negativi) di una persona riguardo all’intelligenza artificiale (come la “confusione”) con gli obiettivi specifici utilizzati per addestrarla, nella speranza che questo possa aiutare eaccelerare i progressidi studio nel settore.