San Francisco contro le app di deepfake: il procuratore chiede la rimozione immediata

Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro tredici applicazioni di face-swapping, accusate di generare immagini intime non consensuali utilizzando l’intelligenza artificiale. Nella sua richiesta, Chiu ha inviato diffide ad Apple e Google, chiedendo la rimozione immediata di otto applicazioni dall’App Store e cinque dal Play Store.

Chiu ha sottolineato che le due aziende dovrebbero cessare qualsiasi collaborazione commerciale con gli sviluppatori di queste app, che avrebbero fruttato milioni di dollari nonostante le politiche per sviluppatori vietino contenuti pornografici, abusivi o molesti. La legge californiana proibisce esplicitamente il supporto a servizi che producono materiale pornografico deepfake, e l’ufficio del procuratore ha già avviato precedenti azioni legali contro sedici siti web dedicati a pratiche simili.

Un portavoce di Google, Dan Jackson, ha confermato che l’azienda ha già rimosso centinaia di app con funzioni di “nudificazione”, incluse quelle segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Apple, al momento, non ha rilasciato commenti ufficiali sulla questione.

Chiu ha descritto la situazione come “assolutamente scioccante”, evidenziando l’ampiezza del fenomeno e le gravi conseguenze sulle vittime, che possono includere danni alla reputazione e ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app problematiche e rafforzeranno i controlli, non escludendo ulteriori azioni legali se necessario.

Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione per l’uso dell’intelligenza artificiale nella creazione di contenuti non consensuali, un tema che solleva importanti interrogativi etici e legali. La lotta contro i deepfake e le app di face-swapping è solo all’inizio, ma rappresenta un passo significativo verso la protezione dei diritti individuali nell’era digitale.