YouTube consiglia video di sparatorie ai bambini
L’algoritmo di YouTube spinge i ragazzi interessati ai videogiochi verso contenuti che riguardano sparatorie nelle scuole e istruzioni su come usare e modificare le armi. Lo studio condotto dal Tech Transparency Project (Ttp) ha sollevato nuove domande riguardo la sicurezza del sistema di algoritmi che consiglia i video sulla piattaforma.
Il sondaggio del 2022 di Pew Research aveva rilevato che YouTube è a oggi la piattaforma social più popolare tra gli adolescenti di età compresa tra i 13 e i 17 anni: il 95% degli intervistati aveva dichiarato di utilizzarla spesso. Nonostante la sua estrema popolarità tra i più giovani, YouTube è in gran parte sfuggito al controllo che si sta tentando di esercitare su TikTok e Instagram.
Gli algoritmi di YouTube selezionano i contenuti da consigliare agli utenti in base ai clic, al tempo trascorso su un determinato tipo di video e al numero di condivisioni. I ricercatori hanno creato 4 account di prova: 2 registrati come bambini di 9 anni e, quindi, in base alla policy di YouTube, collegati al profilo di un genitore, mentre gli altri 2 come ragazzi di 14 anni.
Su ciascuno dei profili, il team ha avviato la riproduzione di intere playlist a tema videogame: per quanto riguarda i 2 account registrati come utenti di 9 anni, i video riguardavano giochi come Roblox, Lego Star Wars e Five Nights at Freddy’s; per gli altri 2, che avevano dichiarato di avere 14 anni, i contenuti riprodotti riguardavano principalmente videogame in prima persona come Grand Theft Auto, Halo e Red Dead Redemption.
Dopo aver visualizzato oltre 100 video, i ricercatori hanno monitorato e registrato i video consigliati da YouTube che apparivano di volta in volta sulla home di ciascun account per un periodo complessivo di 30 giorni, dal 1° al 30 novembre 2022. Il team ha osservato una tendenza dell’algoritmo a consigliare contenuti riguardo sparatorie e armi, pur trattandosi di utenti minorenni.
YouTube ha inviato un numero maggiore di contenuti di questo tipo, in alcuni casi oltre 10 volte in più, agli account che hanno guardato “I consigliati”: in sostanza, se un giocatore ha mostrato interesse per i video consigliati da YouTube, l’algoritmo ha mano a mano mostrato sempre più contenuti relativi alla violenza nel mondo reale. Per esempio, tra il 1° novembre e il 30 novembre, YouTube ha inviato 382 video di armi da fuoco vere al finto account del bambino di 9 anni che aveva cliccato tra i contenuti consigliati una media di oltre 12 volte al giorno. Ha indicato, invece, molti meno video di armi (34 in totale) all’utente della stessa età che invece non aveva guardato i consigli.
Nello stesso lasso di tempo, ha suggerito 1.325 video di armi da fuoco all’account del 14enne che aveva visualizzato alcuni dei consigli: circa 44 al giorno. Al contrario, l’account che non ha cliccato sul contenuto consigliato ha ricevuto in totale 172 video di armi.
Non è possibile disattivare la funzione dei consigli sulla piattaforma, ma gli utenti possono rimuovere i singoli video consigliati dai propri feed. I contenuti consigliati dalla piattaforma nell’esperimento condotto dal Ttp includevano scene di sparatorie nelle scuole e, in generale, altre riprese di sparatorie di massa, simulazioni grafiche dei danni che le armi da fuoco possono infliggere a un corpo umano (in particolare, alla testa e al torace) e guide pratiche per convertire una pistola in un’arma automatica.
Molti di questi video violano le norme di YouTube che vietano di mostrare, come previsto dalla policy della piattaforma, proprio “contenuti violenti o cruenti destinati a scioccare o disgustare gli spettatori”, “atti pericolosi che coinvolgono minori “ e “istruzioni su come convertire un’arma da fuoco in un’arma automatica”.
Tra i contenuti consigliati anche un film sul famigerato serial killer Jeffrey Dahmer del 1991, My Friend Dahmer, che si concentra sugli anni del liceo di Dahmer e mostra scene in cui il futuro assassino attacca alcuni ragazzi con una mazza da baseball, uccide e seziona animali.
Dopo la sparatoria di massa a Buffalo, New York, nel maggio 2022, il gruppo Everytown for Gun Safety Support Fund ha riferito che il killer appena 18enne era migliorato nel tiro, nella velocità di ricarica delle armi e nel modificare il suo fucile guardando i video di YouTube.
