Apple vieta app di nudificazione e contenuti offensivi generati da AI
In Breve
- Quali sono le nuove regole di Apple per le app?
- Apple ha vietato le app di nudificazione e rafforzato i requisiti per i contenuti generati dagli utenti.
- Cosa significa bait-and-switch nelle app?
- Si riferisce a pratiche in cui un'app si presenta come normale durante la revisione, ma rivela funzionalità dannose successivamente.
- Quante app sono state bloccate da Apple nell'ultimo anno?
- Nel corso dell'anno precedente, Apple ha bloccato oltre 150.000 app.
Apple ha recentemente aggiornato le sue linee guida per gli sviluppatori, introducendo misure più severe contro le applicazioni che utilizzano l’intelligenza artificiale per generare contenuti offensivi. Tra le novità più rilevanti, il divieto per le app che si presentano come normali durante il processo di revisione, ma che successivamente si trasformano in app di ‘nudify’ o mettono in evidenza tali funzionalità.
Le nuove norme mirano a garantire che le app con contenuti generati dagli utenti rispettino requisiti più rigorosi. In particolare, è richiesto che queste applicazioni filtrino il materiale offensivo, forniscano strumenti per la segnalazione dei contenuti e permettano di bloccare account abusivi. Inoltre, sono vietate funzionalità nascoste o non documentate, comprese quelle che mascherano il proprio scopo durante la revisione, una pratica nota come bait-and-switch.
Apple ha anche chiarito che rimuoverà le app che introducono funzioni non presenti nella versione inizialmente sottoposta a revisione. Questo aggiornamento è particolarmente significativo in un contesto in cui l’azienda ha già bloccato oltre 150.000 app e rimosso 193.000 account di sviluppatori per frodi e abusi nel corso dell’ultimo anno.
La sezione legale delle linee guida è stata aggiornata per rafforzare il divieto di app che promuovono il traffico di esseri umani e lo sfruttamento di minori. Queste misure arrivano in seguito a una crescente pressione da parte delle autorità. Infatti, a luglio, l’autorità di San Francisco aveva ordinato a Apple e Google di rimuovere le app di nudificazione, sottolineando come le aziende avessero tratto profitto dalle commissioni degli store.
Un rapporto di aprile ha inoltre evidenziato la presenza di numerose app di questo tipo sugli store, alcune delle quali erano state valutate come adatte ai minori. Con queste nuove linee guida, Apple intende non solo migliorare la sicurezza degli utenti, ma anche tutelare la propria reputazione nel mercato delle app.
