YouTube consiglia video di sparatorie ai bambini

L’algoritmodiYouTubespingei ragazzi interessati ai videogiochiverso contenuti che riguardanosparatorie nelle scuole e istruzioni su come usare e modificare le armi. Lo studio condotto dalTech Transparency Project (Ttp)ha sollevato nuove domande riguardo la sicurezza del sistema di algoritmi che consiglia i video sulla piattaforma. Il sondaggio del 2022 diPew Researchaveva rilevato cheYouTube è a oggi la piattaforma social più popolare tra gli adolescentidi età compresa tra i 13 e i 17 anni:il 95% degli intervistatiaveva dichiarato di utilizzarla spesso. Nonostante la sua estrema popolarità tra i più giovani, YouTube è in gran parte sfuggito al controllo che si sta tentando di esercitaresu TikTok e Instagram. Gli algoritmi di YouTube selezionano i contenuti da consigliare agli utenti in base ai clic, al tempo trascorso su un determinato tipo di video e al numero di condivisioni. I ricercatori hanno creato4 account di prova: 2 registrati come bambini di 9 anni e, quindi, in base alla policy di YouTube, collegati al profilo di un genitore, mentre gli altri 2 come ragazzi di 14 anni. Su ciascuno dei profili, il team ha avviatola riproduzione di intere playlist a tema videogame: per quanto riguarda i 2 account registrati come utenti di 9 anni, i video riguardavano giochi comeRoblox, Lego Star WarseFive Nights at Freddy’s;per gli altri 2, che avevano dichiarato di avere 14 anni, i contenuti riprodotti riguardavano principalmente videogame in prima persona comeGrand Theft Auto, HaloeRed Dead Redemption. Dopo aver visualizzatooltre 100 video, i ricercatori hannomonitorato e registrato i video consigliati daYouTubeche apparivano di volta in volta sulla home di ciascun account per un periodo complessivo di 30 giorni,dal 1° al 30 novembre 2022.Il team ha osservato una tendenza dell’algoritmo aconsigliare contenuti riguardo sparatorie e armi, pur trattandosi di utenti minorenni. YouTubeha inviato un numero maggiore di contenuti di questo tipo, in alcuni casi oltre 10 volte in più, agli account che hanno guardato “I consigliati”: in sostanza, se un giocatore ha mostrato interesse per i video consigliati da YouTube, l’algoritmo ha mano a mano mostrato sempre più contenuti relativi alla violenza nel mondo reale. Per esempio, tra il 1° novembre e il 30 novembre,YouTube ha inviato 382 video di armi da fuoco vere al finto account del bambino di 9 anniche aveva cliccato tra icontenuti consigliati una media di oltre 12 volte al giorno. Ha indicato, invece, molti meno video di armi (34 in totale) all’utente della stessa età che invece non aveva guardato i consigli. Nello stesso lasso di tempo, ha suggerito1.325 video di armi da fuoco all’account del 14enneche aveva visualizzato alcuni dei consigli: circa 44 al giorno. Al contrario, l’account che non ha cliccato sul contenuto consigliato ha ricevuto in totale 172 video di armi. Non è possibile disattivare la funzione dei consigli sulla piattaforma, ma gli utenti possonorimuovere i singoli video consigliati dai propri feed.I contenuti consigliati dalla piattaforma nell’esperimento condotto dalTtpincludevanoscene disparatorienelle scuolee, in generale, altre riprese disparatorie di massa, simulazioni grafiche dei danni che le armi da fuoco possono infliggere a un corpo umano (in particolare, alla testa e al torace) e guide praticheper convertire una pistola in un’arma automatica. Molti di questi video violano le norme di YouTube che vietano di mostrare, come previsto dalla policy della piattaforma, proprio “contenuti violenti o cruenti destinati a scioccare o disgustare gli spettatori”, “atti pericolosi che coinvolgono minori “ e “istruzioni su come convertire un’arma da fuoco in un’arma automatica”. Tra i contenuti consigliati anche un film sul famigerato serial killer Jeffrey Dahmer del 1991,My Friend Dahmer,che si concentra sugli anni del liceo diDahmere mostra scene in cui il futuro assassino attacca alcuni ragazzi conuna mazza da baseball,uccide e seziona animali. Dopo la sparatoria di massa aBuffalo, New York,nel maggio 2022,il gruppoEverytown for Gun Safety Support Fundha riferito che il killer appena 18enne era migliorato nel tiro, nella velocità di ricarica delle armi e nel modificare il suo fucileguardando i video di YouTube.