Apple ha preso provvedimenti contro alcune app che utilizzavano l’intelligenza artificiale generativa per creare nudità non consensuali da immagini di persone che non erano a conoscenza di questo utilizzo.
Lo riporta il sito 404 Media, spiegando che Apple ha rimosso alcune app che pubblicizzavano la possibilità di “spogliare” chiunque.
Tra i potenziali problemi dell'IA generativa, usi impropri, tra cui la possibilità di spogliare virtualmente le persone, ottenendo un'immagine simile all'originale, con la rimozione virtuale degli indumenti del soggetto fotografato (tenendo conto di aspetti quali: scena, luci, tipologia corporea , posa, colore della pelle, ecc.).
Secondo quanto riporta 404 Media, su App Store era possibile trovare diverse app in grado di ritoccare artificialmente le immagini e svestire soggetti sfortunati e ignari. Alcune di queste app si limitavano al semplice scambio di volti (sostituire il volto di una persona conosciuta con quello di una persona nuda), altre erano pubblicizzate come app “Undress” (per spogliare virtualmente le persone). Dopo aver ricevuto molteplici segnalazioni, Apple ha rimosso le app “incriminate”; una mossa simile è stata fatta anche da Google, rimuovendo app completamente simili dal Play Store. È interessante notare che le app in questione venivano pubblicizzate su Instagram; sono state inoltre effettuate specifiche segnalazioni Metà. Non è chiaro come le app incriminate siano riuscite a superare il processo di revisione di Apple.
Nel 2020 il nostro Garante della Privacy aveva avviato delle indagini su un bot di Telegram capace di spogliare le persone. Alcune donne si erano trovate vittime di una particolare tipologia di “deep fake”, ovvero video e immagini realizzati attraverso app che permettono di trasformare volti, voci e corpi delle persone, creando dei veri e propri “fake”.