Apple vieta app di nudificazione e contenuti offensivi generati da AI
In Breve
- Quali sono le nuove linee guida di Apple?
- Apple ha vietato le app di nudificazione e quelle che generano contenuti offensivi tramite intelligenza artificiale.
- Cosa devono fare le app con contenuti generati dagli utenti?
- Devono filtrare materiale offensivo e fornire strumenti per segnalare contenuti inappropriati.
- Quali misure ha preso Apple contro il traffico di esseri umani?
- Apple ha aggiornato le linee guida per rafforzare il divieto di app che promuovono traffico di esseri umani e sfruttamento di minori.
Apple vieta app di nudificazione e contenuti offensivi generati da AI
Apple ha recentemente aggiornato le sue linee guida per gli sviluppatori, introducendo un divieto per le applicazioni che utilizzano l’intelligenza artificiale per creare contenuti offensivi. Queste nuove norme mirano a proteggere gli utenti da app che si presentano come normali durante il processo di revisione, ma che in seguito si trasformano in app di ‘nudify’ o attivano funzionalità dannose.
Rafforzamento delle norme per le app
Le nuove linee guida richiedono che le app con contenuti generati dagli utenti implementino misure di filtraggio per il materiale offensivo. Devono anche fornire strumenti per segnalare contenuti inappropriati e consentire agli utenti di bloccare account abusivi. È espressamente vietato l’uso di funzionalità nascoste o non documentate, comprese le applicazioni che mascherano il loro scopo durante la revisione, una pratica nota come bait-and-switch.
Misure contro il traffico di esseri umani e sfruttamento di minori
In aggiunta, la sezione legale delle linee guida è stata aggiornata per rafforzare il divieto di app che promuovono il traffico di esseri umani e lo sfruttamento di minori. Apple ha dichiarato che, nell’ultimo anno, il suo processo di revisione ha bloccato oltre 150.000 app e ha portato alla rimozione di 193.000 account di sviluppatori per frode e abusi.
Contesto normativo e reazioni
Queste modifiche arrivano dopo che, a luglio, l’autorità di San Francisco aveva ordinato a Apple e Google di rimuovere le app di nudificazione, accusando le aziende di trarre profitto dalle commissioni degli store. Un rapporto di aprile aveva inoltre evidenziato la presenza di numerose app di questo tipo su entrambe le piattaforme, alcune delle quali erano state valutate come adatte ai minori.
Con queste nuove norme, Apple intende creare un ambiente più sicuro per gli utenti, in particolare per i più giovani, e contrastare l’uso improprio delle tecnologie emergenti come l’intelligenza artificiale.
