In Breve
- Cosa ha chiesto il procuratore di San Francisco?
- Il procuratore ha chiesto la rimozione di tredici app che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Apple e Google sono le aziende a cui è stata inviata la diffida.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisa contro il fenomeno delle applicazioni di face-swapping che generano immagini intime non consensuali utilizzando l’intelligenza artificiale. In una lettera inviata ad Apple e Google, Chiu ha chiesto la rimozione immediata di tredici applicazioni, di cui otto disponibili sull’App Store e cinque sul Play Store.
Chiu ha sottolineato che le aziende tecnologiche dovrebbero cessare ogni collaborazione commerciale con gli sviluppatori di queste app, che avrebbero fruttato milioni di dollari nonostante le chiare policy per sviluppatori che vietano contenuti pornografici, abusivi o molesti. La legge della California proibisce esplicitamente il supporto a servizi che producono materiale pornografico deepfake, e l’ufficio del procuratore aveva già avviato in precedenza azioni legali contro sedici siti web dedicati a pratiche simili.
Un portavoce di Google, Dan Jackson, ha confermato che l’azienda ha già eliminato centinaia di applicazioni con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Al momento, Apple non ha rilasciato commenti ufficiali sulla questione.
David Chiu ha definito la situazione “assolutamente scioccante”, evidenziando l’ampiezza del fenomeno e le conseguenze devastanti per le vittime, che vanno dalla reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia che Apple e Google rimuovano spontaneamente le app incriminate e rafforzino i controlli, non escludendo ulteriori azioni legali se necessario.
Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione per l’uso dell’intelligenza artificiale nella creazione di contenuti non consensuali, un tema che solleva importanti interrogativi etici e legali. Con l’avanzare della tecnologia, la necessità di proteggere i diritti delle persone e di garantire un uso responsabile delle nuove tecnologie diventa sempre più urgente.