LUCI E OMBRE DELL’IA
Da ChatGPT a Midjourney, i sistemi di intelligenza artificiale abitano ormai la nostra quotidianità aiutandoci a svolgere compiti complessi molto più velocemente di prima (ma spesso con qualche errore) e rispondendo a desideri che non immaginavamo di avere, come quello di convertire le nostre foto di famiglia in fumetti giapponesi.
La leggerezza con cui stiamo normalizzando l’utilizzo di questi software si accompagna all’invisibilizzazione dei tanti aspetti problematici che portano con sé. Dalle questioni di protezione dei dati al fortissimo impatto ecologico dei server energivori necessari a farle funzionare, ai divari economici che caratterizzano la catena globale del valore dell’industria dell’IA, che coinvolge lavoratori (e lavoratrici) sottopagati e privi di tutele nei paesi più poveri del mondo. In una società attraversata da disuguaglianze strutturali, senza correttivi specifici l’IA rischia di riprodurle e ci pone dilemmi dalla difficile risoluzione.
È accettabile raccogliere e analizzare i dati sanitari di tutta la cittadinanza nonostante i rischi di sorveglianza se questo può portare la ricerca medica a trovare più facilmente migliori cure o percorsi di prevenzione per tumori e malattie rare? È da accogliere positivamente lo sviluppo di sistemi di IA per il monitoraggio del ciclo mestruale che possono aiutare le donne nella loro autodeterminazione riproduttiva se le aziende utilizzano i dati raccolti per evitare di assumere lavoratrici che desiderano una gravidanza?
Se nel dibattito pubblico spesso l’IA viene presentata come un ormai irrinunciabile motore di progresso o al contrario come una pericolosissima minaccia da mettere totalmente al bando, già questi pochi esempi ci suggeriscono che la questione è più complessa.
Questa complessità emerge anche quando proviamo ad assumere una prospettiva politica specifica, quella femminista. Ma cosa intendiamo per “femminista”? Sebbene i femminismi siano una galassia plurale, tutti sono accomunati da almeno un paio di obiettivi condivisi: la lotta a discriminazioni e disuguaglianze di genere e il contrasto alla violenza contro le donne. Che ruolo sta assumendo o può assumere l’IA rispetto a queste sfide?
IA E DISUGUAGLIANZE DI GENERE
L’IA è una tecnologia sessista? Una delle minacce più discusse tra quelle poste dai sistemi di IA riguarda il problema dei bias. L’IA elabora dati elettronici, anche in grandi quantità (si parla spesso di big data), che riflettono le condizioni delle società da cui vengono estratti: se viviamo in società sessiste, i dati raccolti in queste società rifletteranno il sessismo che le pervade. Se un sistema di IA utilizza questi dati, riprodurrà il sessismo in essi implicito, a meno che non li manipoliamo espressamente.
L’idea di inserire dei correttivi nei dataset, presupponendo che essi siano discriminatori di default, viene promossa con convinzione dal Consiglio di Europa (CoE). In uno studio pubblicato nel 2023 dalla Gender Equality Commission del CoE, si sostiene la necessità di adottare delle positive actions, ovvero degli strumenti transitori di “discriminazione positiva” utili a compensare discriminazioni strutturali.
Tra le misure proposte c’è il ribaltamento dell’onere della prova rispetto a discriminazioni prodotte da sistemi di IA, che obblighi chi li produce ad effettuare delle analisi del rischio e dell’impatto sulle disuguaglianze. Questo strumento andrebbe accompagnato da meccanismi di monitoraggio pubblico gestiti dagli Stati.
Inoltre, si raccomanda l’introduzione di azioni specifiche volte a promuovere la diversità, anche di genere, nelle comunità professionali di chi opera nel campo dell’IA. Se è ben noto che le donne che lavorano in ambito STEM sono una minoranza, le sproporzioni di genere nel settore dell’IA sono ancora maggiori: le donne costituiscono il 22% della forza lavoro nel campo dell’IA nel mondo e solo il 16% in Italia. Questo dato non è rilevante solo di per sé, ma ha un impatto notevole sul circolo vizioso delle disuguaglianze promosse dalle tecnologie: come fanno i sistemi di IA a incorporare una prospettiva femminista se un punto di vista femminile – che da solo non è sufficiente, ma certamente necessario – è scarsamente presente tra chi le programma?
Per evitare che le IA riproducano disuguaglianze e discriminazioni non basta infatti intervenire sui dataset. È necessario che anche la cd. architettura cognitivo-comportamentale dei sistemi, il modo in cui funzionano, incorpori fin da subito una prospettiva femminista, e che pertanto chi si occupa di progettarla abbia una consapevolezza e una expertise in materia. Maggiore diversità e maggiori finanziamenti indirizzati a progetti di design tecnologico femminista sono quindi elementi cruciali che influenzeranno il mondo dell’IA – ed il suo impatto sulle disuguaglianze – negli anni a venire.
IA E VIOLENZA DI GENERE
Le discriminazioni sistemiche che caratterizzano ancora lo scenario contemporaneo si accompagnano ad una diffusione pervasiva della violenza di genere. Nell’UE una donna su tre ha subito violenza fisica o sessuale e una su due molestie (EIGE): questi pochi dati da soli ci mostrano come la violenza di genere sia una caratteristica strutturale delle nostre società e non una sfortunata eccezione. Come si colloca l’IA in questo contesto? Può rappresentare uno strumento utile a prevenire e contrastare la violenza di genere o rischia di costituire un’ulteriore minaccia?
Sul fronte delle cattive notizie, l’introduzione di nuove tecnologie ha portato all’emergere di nuove forme di violenza. Recentemente è stata coniata un’espressione proprio per indicare un tipo di violenza domestica compiuta tramite l’utilizzo di tecnologie di IA: tech abuse.
La diffusione di tecnologie di IA e gli sviluppi più recenti in termini di connettività hanno portato alla crescente diffusione, anche nello spazio domestico, di dispositivi di Internet delle cose (Internet of things), oggetti di uso quotidiano come serrature, porte, finestre, elettrodomestici, dotate di software di IA e in rete tra loro. Grazie a queste tecnologie è possibile gestire le infrastrutture fisiche di un’abitazione direttamente dallo smartphone, tramite app che ci consentono di aprire e chiudere le finestre e le porte a distanza, preriscaldare il forno prima di rientrare a casa, azionare riscaldamenti e climatizzazione.
Poiché le campagne di marketing che pubblicizzano questi sistemi sono fortemente condizionate da stereotipi di genere che assumono gli uomini come target principali di qualunque dispositivo tecnologico e le infrastrutture di cybersecurity ricalcano ancora modelli pensati per utilizzi militari o di sicurezza aziendale, come esposto nel dettaglio in una ricerca sul tema di Julia Slupska, i sistemi di domotica intelligente vengono affidati alla gestione quasi esclusiva del “capofamiglia” e le donne hanno raramente accesso al loro controllo effettivo.
I potenziali abusanti hanno dunque oggi uno strumento aggiuntivo per tenere sotto controllo le conviventi, utilizzando sistemi di sorveglianza e azionando a distanza serrature e finestre per limitarne la libertà, come evidenziato da un altro studio condotto da UCL (University College London).
Parallelamente all’emergere di questa nuova tipologia di abuso, sono stati però sviluppati progetti che mettono al contrario l’IA a servizio non delle violenze ma della loro prevenzione e contrasto.
Tra questi, Data Against Femicides, una ricerca collaborativa portata avanti da feminist data activists determinate a mettere l’IA e le tecnologie per la raccolta e l’analisi di dati elettronici a servizio della rilevazione e del contrasto ai femminicidi – esperienza raccontata nel volume Counting Feminicide. Data Feminism in Action di Catherine D’Ignazio.
Un altro esempio è VioGén, un software spagnolo che utilizza un algoritmo predittivo per analizzare le banche dati che raccolgono i casi di violenza di genere e compiere una valutazione del rischio, rafforzando i meccanismi di prevenzione.
Altre tipologie di algoritmi, come quelli per l’analisi di linguaggio, hanno consentito inoltre di indagare la rappresentazione della violenza di genere nelle narrazioni mediatiche e nei testi giuridici, come nel caso del Progetto STEP realizzato dall’Università della Tuscia con Differenza Donna, che ha analizzato oltre 16.000 articoli e quasi 300 sentenze per individuare i principali pattern di stereotipizzazione e vittimizzazione secondaria.
L’IA COME TERRENO DI SCONTRO POLITICO
L’IA non è quindi di per sé buona o cattiva: dipende tutto dagli obiettivi rispetto a cui la mettiamo a servizio e dall’utilizzo che ne facciamo.
Inoltre, parlare di intelligenza artificiale in generale ci dice poco: è importante distinguere tra gli specifici software a cui ci riferiamo, per valutare caso per caso le finalità per cui ciascuno è stato sviluppato, l’architettura tecnologica, il design e il sistema socio-tecnico in cui si inserisce.
Possiamo però dire che poiché l’IA opera basandosi sull’analisi di dati pre-esistenti, essa è una tecnologia intrinsecamente conservatrice. Se vogliamo utilizzarla per progetti di cambiamento sociale, come una trasformazione in senso femminista, occorre uno sforzo attivo per sviluppare sistemi che contrastino attivamente i modelli esistenti e che implementino delle misure apposite. Dal design, all’utilizzo, al monitoraggio.
ABSTRACT
Artificial Intelligence (AI) has now overwhelmingly become part of our daily lives and strongly affects our social interactions. What impact does its introduction have on structural problems such as inequality and gender-based violence? In this article, we ask whether AI can be a threat or, on the contrary, an asset with respect to these challenges and to effect social transformation in a feminist sense.
