Cosa succede quando pornografia e AI si incontrano?
Fotografie di corpi nudi o seminudi con fisici tonici, capigliature sempre perfette, volti attraenti e occhi color smeraldo. Le descrizioni che hai appena letto si riferiscono alle immagini che l’intelligenza artificiale genera quotidianamente su impulso di alcuni utenti che, attraverso un testo o una fotografia, tentano di creare un corpo nudo da zero o di modificarne uno reale senza il consenso della persona interessata.
Sono queste le nuove frontiere dell’intelligenza artificiale. Contenuti espliciti creati ad hoc per soddisfare esigenze personali, diffamare esseri umani o illudere ignari utenti della rete. Inquietanti attività rese possibili da software AI molto popolari sulla rete come Midjourney o Stable Diffusion che, con un software scaricabile offline, permettono di generare e modificare immagini (anche esplicite ) tramite dei semplicissimi messaggi in una chat virtuale.
L’esempio riportato dal quotidiano statunitense Washington Post , è il caso di Claudia, una giovanissima ragazza dai capelli lunghi e scuri diventata popolare sul Social Reddit. Ha un sorriso tenero e gli occhi verde scuro e offre agli utenti foto molto intime in cambio di soldi. Ma Claudia non esiste: le sue foto, nonostante sembrino incredibilmente reali, sono tutte false e sono state create da un’intelligenza artificiale. I difetti che presentano sono quasi impercettibili e la maggior parte degli utenti crede che siano vere.
Il profilo è stato aperto a gennaio e i suoi primi post contenevano frasi esplicite e allusive, senza mai specificare che fossero false. ZeroGPT, un software capace di capire se un testo è stato generato da un’intelligenza artificiale, ritiene che, con una probabilità del 97%, le frasi di Claudia siano state generate da strumenti come ChatGPT.
Ciò dimostra quanto sia diventato facile creare contenuti pornografici attraverso l’intelligenza artificiale. Per gli uomini, ma soprattutto per le donne, questo sta diventando un incubo. Sono già numerosi gli account su OnlyFans, Twitter e Instagram che diffondono questi contenuti.
In rete sono presenti centinaia di forum all’interno dei quali si discute della creazione di ragazze e ragazzi virtuali o della modifica dei loro corpi. Molti utenti richiedono ad altri, più esperti nell’uso dell’AI, di “spogliare” completamente loro conoscenti sulla base di caratteristiche fisiche e grafiche o di creare corpi da zero.
È una deriva pericolosa che non solo potrebbe sconvolgere la multimiliardaria industria del porno, ma potrebbe diffondere anche modelli stereotipati di fisici perfetti e danneggiare la reputazione di migliaia di persone reali, alimentando fenomeni come cyberbullismo e molestie sessuali. Tutti possono essere un bersaglio.
Il progresso raggiunto negli ultimi anni dall’intelligenza artificiale e le nuove tecniche che utilizza stanno alimentato questi fenomeni che, già dal 2017, iniziavano a manifestarsi attraverso i famosi “deepfake” , video realizzati con una tecnica in grado di combinare e sovrapporre immagini e video reali a immagini create con l’intelligenza artificiale, mandando in confusione i fruitori dei contenuti.
Un altro software posto sotto i riflettori è Replika: un’app di intelligenza artificiale in cui un avatar virtuale dalle sembianze umane si mette a disposizione di chi si sente solo o cerca un partner. Non solo gli avatar scivolano spesso in conversazioni intime ed esplicite con giochi di ruolo erotici, ma addirittura permettono di accedere a contenuti pornografici anche se si dichiara di avere 12 anni.
Dopo un primo stop dei contenuti espliciti dichiarato dagli sviluppatori, Replika sta ripristinando tutte le sue funzioni. Molti utenti infatti, sono rimasti sconvolti dal blocco perché considerano gli avatar come loro mogli o mariti e questa, per loro, era la fine di una vera e propria relazione.
Per questo motivo, tutti coloro che hanno sottoscritto Replika prima del 1° febbraio 2023, potranno tornare alle vecchie funzioni esplicite dell’app. Intanto, il garante della privacy, oltre a bloccare il celebre ChatGPT ha bloccato anche Replika in Italia.
