L’Unesco ha recentemente pubblicato un interessantissimo rapporto (intitolato Technology-facilitated gender-based violence in an era of generative AI) che rivela come l’IA generativa possa facilitare la violenza di genere.
L’intelligenza artificiale generativa (IA) – i deep learning models che creano voce, testo e immagini – sta rivoluzionando il modo in cui le persone accedono alle informazioni e producono, ricevono e interagiscono con i contenuti. Se da un lato innovazioni tecnologiche come ChatGPT, DALL-E e Bard offrono guadagni inimmaginabili in termini di produttività, dall’altro presentano preoccupazioni per la protezione e la promozione dei diritti umani e per la sicurezza di donne e ragazze.
Il 58% di giovani donne e ragazze a livello globale hanno subito molestie online sulle piattaforme di social media. Tra gli esempi di esempi di violenza di genere facilitata dalla tecnologia lo studio cita:
- Stalking online
- Intimidazione e minacce tramite messaggi di testo o social media
- Divulgazione non autorizzata di immagini intime o video (noto anche come “revenge porn”)
- Hacking e controllo non autorizzato dei dispositivi tecnologici di una persona
- Utilizzo di tecnologie di sorveglianza per monitorare e controllare le attività di una persona
- Creazione di account falsi o impersonificazione online per diffamare o danneggiare la reputazione di una persona
- Distribuzione di materiale pornografico senza consenso tramite applicazioni di messaggistica o social media
- Utilizzo di chat room o forum online per molestare o intimidire le donne
- Utilizzo di applicazioni di appuntamenti online per aggredire sessualmente le donne
- Utilizzo di tecnologie di intelligenza artificiale per creare contenuti offensivi o discriminatori basati sul genere
L’arrivo dell’IA generativa introduce nuove domande inesplorate: quali sono le politiche e le culture normative delle aziende che perpetuano la violenza e i danni di genere facilitati dalla tecnologia? In che modo le tecnologie basate sull’IA facilitano le molestie e i discorsi d’odio specifici per genere? Quali sono i “prompt hack” che possono portare a disinformazione, discorsi d’odio, molestie e attacchi di genere? Quali misure possono essere adottate da aziende, governi, organizzazioni della società civile e ricercatori indipendenti per anticipare e mitigare questi rischi?
Il testo sostiene che affrontare e prevenire la violenza di genere nel tempo dell’AI richiede una combinazione di misure da parte di diversi attori:
– gli Sviluppatori di GenAI e le aziende tecnologiche che le ospitano dovrebbero adottare politiche e culture normative che prevenire la violenza di genere facilitata dalla tecnologia.
– le organizzazioni della società civile dovrebbero intraprendere azioni mirate per combattere la violenza di genere facilitata dalla tecnologia.
– I governi dovrebbero adottare regolamenti e politiche per prevenire la violenza di genere facilitata dalla tecnologia.
– Gli utenti dovrebbero essere consapevoli dei rischi e delle conseguenze della violenza di genere facilitata dalla tecnologia e dovrebbero essere educati sulla media e l’alfabetizzazione dell’informazione per poter esaminare criticamente e impegnarsi con i media che incontrano.
Il rapporto Unesco è disponibile (in inglese e francese) qui.
