Un’indagine condotta da 404 Media ha portato alla luce la problematica delle app che permettono la generazione di immagini di nudo non consensuali, spingendo Apple a intervenire rimuovendo alcune di queste applicazioni dal suo App Store. Il report ha evidenziato che, nonostante le rigide misure di sicurezza, alcune app riescono a sfuggire ai controlli di Apple, rivelando un difetto nel sistema di sorveglianza dell’azienda. L’indagine ha anche messo in discussione il ruolo di Instagram e Meta nel promuovere tali app attraverso la pubblicità, sollevando preoccupazioni etiche significative sulle pratiche di marketing e sulla moderazione dei contenuti nell’era dell’intelligenza artificiale.
Apple Rafforza le Linee Guida di Sicurezza per l’App Store
Apple si impegna a garantire che le app nell’App Store siano sicure e prive di contenuti offensivi o dannosi. Le linee guida per gli sviluppatori mettono la sicurezza al primo posto, vietando esplicitamente applicazioni che possano causare danni o offendere. Nonostante queste politiche rigide, una recente inchiesta di 404 Media ha evidenziato alcune lacune che permettono a app di “generazione d’arte” di mascherare funzionalità potenzialmente pericolose, sfuggendo ai controlli. Questo problema sottolinea la difficoltà di monitorare efficacemente le oltre due milioni di app disponibili, specialmente quelle che potrebbero abusare della tecnologia AI per creare deepfake dannosi. Apple ha reagito rimuovendo le app incriminate dopo essere stata informata da 404 Media, ma il caso solleva questioni più ampie sulla capacità di vigilanza dell’azienda e sulle sfide della moderazione dei contenuti nell’era digitale.
Sviluppatori e pubblicità: Un gioco di ombre nel mondo delle app
Le aziende sono sempre più disposte a vendere spazi pubblicitari, ma questo commercio solleva questioni di sicurezza non indifferenti. La necessità per gli sviluppatori di superare i controlli di sicurezza di Apple ha reso la pubblicità un passaggio quasi obbligato. Ciò ha esposto un grave problema sistemico nelle piattaforme pubblicitarie.
Un esempio eclatante è il porno generato dall’intelligenza artificiale che, sorprendentemente, è apparso nella libreria annunci di Meta, sollevando interrogativi sulla supervisione di contenuti espliciti. Nonostante le ripetute sollecitazioni, Meta non ha fornito risposte chiare su come tali annunci siano stati approvati.
La questione degli annunci sessualmente espliciti non è nuova per Meta, che ha già affrontato problemi simili in passato. La situazione attuale evidenzia una marcata diminuzione nella qualità degli annunci, come sottolineato da Emanuel Maiberg di 404 Media. Le sue segnalazioni hanno spinto Apple a rimuovere alcune delle app coinvolte dai recenti annunci su Instagram, sebbene sia solo una piccola parte del problema.
Alcuni sviluppatori, poco interessati a una presenza di lungo termine nel mercato, inseriscono funzionalità di deepfake pornografico dietro costosi acquisti in-app, mirando a guadagni rapidi. Questo approccio speculativo pone sfide significative, dato che le app possono essere rimosse in brevissimo tempo, ma i giorni in cui sono disponibili possono generare ingenti profitti.
Un problema persistente e complesso
Le aziende tecnologiche, inclusi giganti come Apple, Google e Meta, sono costantemente impegnate in una lotta contro il tempo per identificare e eliminare le app che sfruttano contenuti inappropriati. La battaglia sembra non avere fine e l’efficacia delle misure adottate varia notevolmente tra le diverse aziende. Alcune sembrano meno inclini ad agire decisamente, rendendo ancora più arduo il compito di mantenere pulite le piattaforme di distribuzione app.
