Il presidente della Corea del Sud ha esortato le autorità a fare di più per sradicare le molestie sessuali e la diffusione di pornografia deepfake con video rivolti principalmente alle ragazze più giovani.
Sono state scoperte numerose chat di gruppo in cui gli utenti creano e condividono immagini deepfake sessualmente esplicite, comprese quelle di minori. Le immagini deepfake vengono generate utilizzando tecnologie di intelligenza artificiale, il più delle volte combinando il volto di una persona reale con un corpo diverso e falso.
Sulla scia delle rivelazioni, l'autorità di regolamentazione dei media ha convocato riunioni di emergenza. Nelle ultime settimane – scrive la BBC – sono state individuate numerose chat di gruppo su Telegramma creati da studenti di scuole e università in varie parti del Paese; gli utenti di queste chat, principalmente studenti, caricano foto di persone che conoscono (ad esempio compagni di scuola e insegnanti) e altri utenti le trasformano in immagini deepfake. Pochi giorni fa è uscita la notizia dell'arresto in Francia di Pavel Durov, fondatore di Telegram, accusato – tra le altre cose – di aver facilitato lo scambio di materiale pedopornografico e di revenge porn sulla piattaforma in questione. Telegram è ampiamente utilizzato per caricare/cercare immagini e video e deliri vari. Questo servizio di messaggistica istantanea utilizza la crittografia end-to-end che rende difficile per le autorità risalire all'identità di chi condivide materiale inappropriato (le attività di polizia che si occupano delle chat su Telegram richiedono in genere il passaggio di infiltrati sotto copertura).
Il presidente sudcoreano Yoon Suk Yeol ha invitato le autorità a “indagare a fondo” e ad affrontare il problema dei “crimini sessuali digitali” per sradicarli.
“Di recente, i video deepfake che prendono di mira un numero imprecisato di persone hanno iniziato a circolare rapidamente sui social media”, ha affermato il presidente Yoon in una riunione del gabinetto. “Le vittime sono spesso minorenni e gli autori sono per lo più adolescenti”. Per creare una “sana cultura mediatica”, ha affermato Yoon, è necessario educare meglio e insegnare ai giovani il rispetto. “Sebbene siano spesso visti come 'semplici scherzi', si tratta chiaramente di atti criminali, eseguiti utilizzando la tecnologia per nascondersi dietro l'anonimato”.
Il guardiano riporta che in Corea del Sud, la creazione e la distribuzione di materiale sessualmente esplicito è punibile con una pena fino a cinque anni di carcere o una multa di 50 milioni di won (circa 38.000 dollari).
Nel 2021, un sito web orribile che consente di caricare il volto di chiunque e trasformarlo in una pornostar ha creato scalpore. Meccanismi simili sono ora disponibili a tutti, offerti persino con un pulsante per inviare il risultato finale a tutta una serie di contatti.
Tutti gli articoli che parlano di Intelligenza Artificiale si trovano nella sezione dedicata di macitynet.