Etsy ha venduto immagini pornografiche deepfake di celebrità
Etsy ha messo in vendita immagini deepfake generate dall’intelligenza artificiale di almeno 55 celebrità di alto profilo, tra cui Jenna Ortega e Olivia Munn, con alcune foto proposte a soli $ 0,92.
Secondo un rapporto di Forbes, Etsy, noto mercato online globale specializzato nella vendita di oggetti fatti a mano, vintage e forniture artigianali, ha offerto sulla sua piattaforma immagini digitali deepfake create dall’intelligenza artificiale di Munn, alcune delle quali avevano contenuti pornografici.
La descrizione di un’immagine deepfake di Munn in vendita per $ 2,49 afferma: “Con una risoluzione di 300 DPI, i dettagli di Olivia prendono vita, rendendola ideale per l’arte digitale, il design e la stampa”.
L’avvocato di Munn, Bryan Sullivan, ha dichiarato di aver immediatamente informato Etsy il 13 dicembre, dopo essere stato contattato da Forbes riguardo alle immagini deepfake pornografiche in vendita. Tuttavia, secondo quanto riportato, Etsy non avrebbe rimosso le immagini fino a sei giorni dopo, quando Forbes ha contattato direttamente l’azienda.
Sullivan sostiene che l’attrice Munn, nota per il suo ruolo in X-Men: Apocalisse, si senta “violata e offesa” dall’esistenza di tali immagini su Etsy.
Etsy ha un problema con il porno
Olivia Munn non è l’unica persona a essere vittima di deepfake pornografico sulla piattaforma. Secondo Forbes, altri venditori su Etsy hanno proposto set simili di immagini deepfake di celebrità a prezzi leggermente più elevati (circa $ 5,51). Gli esempi includono descrizioni come “Jenna Ortega appena uscita dal bagno. Intime rasate, petto enorme”.
Un altro venditore su Etsy si è offerto di creare “qualsiasi celebrità che desideri in posizioni nude… che sia completamente nuda, durante l’atto sessuale o semplicemente in lingerie”, al prezzo di $ 0,92.
Forbes riporta che Etsy ha rimosso gli account di questi specifici venditori, ma ha lasciato migliaia di altre inserzioni contenenti pornografia generata dall’intelligenza artificiale, facilmente individuabili attraverso ricerche di base.
Alice Wu, responsabile della sicurezza fiduciaria di Etsy, ha dichiarato: “Siamo profondamente impegnati nella sicurezza del nostro mercato e della nostra comunità e abbiamo rimosso immediatamente le inserzioni in questione in violazione quando sono state portate alla nostra attenzione. I deepfake di celebrità nude sono vietati, e stiamo intensificando i nostri sforzi di applicazione in questo settore, dato che è un problema emergente su Internet”.
Forbes segnala che Etsy affronta un “problema del deepfake porno” in crescita, soprattutto con l’integrazione della tecnologia AI. La ricerca del termine “ai nude” ha prodotto oltre 4.000 risultati il 18 dicembre, mentre la ricerca di “deepfake porno” ha restituito oltre 1.600 risultati, alcuni dei quali non pornografici, ma offrivano servizi non espliciti per “creare il proprio video deepfake”. Dopo il contatto di Forbes con Etsy riguardo a questi risultati, il numero di inserzioni sulla piattaforma è diminuito.
