PREMESSA
Torniamo sulle pagine di Letture Lente, spazio di approfondimento ed indagine sulla Cultura – propulsore di uno sviluppo umano, sociale ed economico sostenibile – per promuovere un dibattito su parità di genere, intelligenza artificiale (nel seguito IA), algoritmi e uso di dati nel tentativo di offrire elementi che permettano alla comunità di individuare bias cognitivi con l’intento di superarli e promuovere parità di genere nell’applicazione delle nuove soluzioni tecnologiche.
La storia della Scienza contemporanea è afflitta da un sistematico pregiudizio di genere: troppo spesso non viene dato il giusto credito al ruolo femminile nelle grandi rivoluzioni scientifiche, e al lavoro, le idee e la tenacia delle donne nella conquista della conoscenza e nella sua applicazione nei vari campi. Questo accade anche oggi nel caso dell’uso dell’AI: le azioni mirate per superare il Digital Gender Gap rimangono ancora non così efficaci.
I PILASTRI: PUNTI DI OSSERVAZIONE
Per analizzare il contesto nel settore dell’AI (sviluppo ed uso di algoritmi) riprendiamo quanto scritto da Darya Majidi e Federica Maria Rita Livelli in Dodici azioni mirate per chiudere il Digital Gender Gap e in particolare considereremo nell’analisi i 4 pilastri per il superamento del Digital Gender Gap: utilizzare questo frame condiviso non solo ci permetterà di avere una narrazione comune dei processi prescelti, in termini di aspetti e parametri, ma anche di osservarli per misurarne le variazioni nel tempo in accordo con un approccio analitico.
- Il PILASTRO 1, “ACCESSIBILITÀ E COINVOLGIMENTO” punta, non solo a garantire l’accesso da ogni luogo a internet per tutte e tutti, quale diritto di cittadinanza universale, ma anche a promuovere il coinvolgimento del genere femminile nella creazione di piattaforme con cui creare servizi utili alle donne garantendone un ruolo attivo nelle tecnologie innovative per apportare i valori, le conoscenze e le competenze femminili, in particolare nel caso dell’applicazioni di soluzioni basate sull’IA.
- PILASTRO 2 “ISTRUZIONE & FORMAZIONE”: alla base vi deve essere un intervento culturale volto alla formazione delle donne a partire dalla più giovane età; le bambine devono essere supportate e incoraggiate a casa e scuola a conoscere le materie STEM e avere esperienze di laboratori e progetti educativi. Solo così è possibile alle giovani superare gli stereotipi di genere che impediscono loro di scegliere gli studi STEM per la loro formazione rinunciando quindi a priori a esperienze lavorative dove l’applicazione delle nuove soluzioni, basate su AI, avranno molteplici applicazioni. A ciò va aggiunta la sensibilità nel creare occasioni di upskilling e reskilling digitali volti a figure femminili di qualsiasi età in modo da accedere più agevolmente ai mestieri del futuro e comprendere l’uso delle tecnologie, sia in ambito lavorativo che in quelli legati al loro essere soggetti sociali.
- PILASTRO 3 “LAVORO & LEADERSHIP”: le donne devono essere supportate e incoraggiate ad accedere ad aziende e ruoli tech senza subire disparità salariali ed essere soprattutto incluse nei percorsi di maggiore visibilità rompendo in modo definitivo il famoso soffitto di cristallo. A ciò va aggiunto che le donne devono essere incluse nelle posizioni di leadership in tutte le istituzioni pubbliche o private creando strumenti e normative di sostegno. Nel fare questo occorre gestire correttamente i bias cognitivi in particolare nel settore dell’IA per non accrescere il Digital Gender Gap.
- PILASTRO 4: DONNE IMPRENDITORIA & INVESTIMENTI: le donne devono essere supportate in tutte le azioni di imprenditoria, in particolare per quelle che richiedono competenze innovative dove i nuovi strumenti, come quelli riconducibili all’uso di intelligenza artificiale, possono determinare vantaggi per l’intero sistema paese.
LE DONNE E L’INTELLIGENZA ARTIFICIALE
I BIAS
Come spesso accade a fronte di un’innovazione, si aprono spazi in cui la creatività, l’impegno, le scelte dell’ingegno umano femminile e maschile possono fare la differenza salvaguardando il principio di parità di genere. Ma non è semplice perché la tecnologia riflette i valori di chi la crea e la usa così come accade nel caso dell’IA: il suo stesso motore, cioè i dati, la loro acquisizione, le relazioni fra essi, sono un diretto riflesso della società che li produce. La situazione non è quindi rosea per ciò che riguarda le donne: secondo una ricerca dell’European institute for gender equality ( EIGE) anche il settore dell’IA nell’ambito della parità di genere presenta delle disparità importanti che sono in parte anche correlate ai dati sulla parità di genere nell’ambito STEM (Science, Technology, Engineering and Mathematics).
I fattori sono molteplici a iniziare dalla creazione dei set di dati su cui si ha la fase di apprendimento. Infatti, a causa del digital divide le donne hanno meno probabilità di possedere un cellulare e di utilizzare internet mobile; questo comporta che siano più di 200 milioni (234 secondo i dati da GSMA del 2021) di utenti donne in meno rispetto agli uomini che generano dati che poi verranno utilizzati dalla tecnologia costituendo di fatto una alterazione dei set iniziali favorendo l’inserimento di pregiudizi di genere.
Questi ultimi nell’IA, sono di fatto pervasivi e possono condurre a soluzioni che non garantiscono la parità di genere in campi molto delicati come quello del lavoro o di altri settori sensibili come quello della salute. Proviamo qui nel seguito a offrire alcuni esempi. Il primo che può dare la misura della criticità ci viene offerto dalla gestione del Credito al consumo. Se si utilizza lo stato civile e il genere per determinare la solvibilità di una persona, quando i sistemi di IA imparano dai dati storici i modelli da cui si attinge considerano le donne con limiti di accreditamento più bassi degli uomini, confermando un trend storico. Più in generale l’uso di classificazioni binarie può causare delle distorsioni, come per esempio nel caso del riconoscimento facciale dove il basarsi sul genere nella classificazione può restituire come risultato un’analisi semplicistica della popolazione. Similmente, nel caso della gestione dell’occupazione, gli algoritmi di intelligenza artificiale, se funzionano con dati distorti, conducono a mantenere nel tempo delle pratiche di assunzione che possono sfavorire le donne negando pari opportunità in quanto i meccanismi potrebbero automaticamente scartare dei profili ritenuti non conformi rispetto al modello basato su dati di dipendenti precedenti, specialmente in settori dominati da uomini. A ciò si aggiungono ovviamente altri errori dovuti agli stereotipi di genere che sono maggiormente rappresentati dai dati di base su cui viene compiuto il traning dell’IA: lo si può riscontare dai riconoscitori vocali (più precisi nel caso di voci maschili) alle traduzioni che diventano espressione di stereotipi e di pregiudizi esistenti.
IL MONDO DEL LAVORO
Anche il mondo del lavoro è disequilibrato: in Europa e nel Regno Unito (si veda quanto riportato in EIGE), solo il 16% delle persone che lavorano nel campo IA sono donne e solo il 12% ha più di 10 anni di esperienza. Questo dato si ripresenta anche in Italia dove le donne ricoprono solo il 16% dei posti di lavoro dell’IA.
È questa una distorsione che unita al punto iniziale su chi produce i dati porta ad una duplice conseguenza: da una parte, abbiamo sistemi di IA che rielaborano e usano dati incompleti o parziali; dall’altra non esiste una sensibilità fra le persone impiegate in questo settore a valutare le conseguenze di questa parzialità non percependo come risultati inesatti quelli che potrebbero violare diritti fondamentali delle persone, le donne e più in generale tutti coloro che rientrano in schemi di diversità rispetto ai modelli sociali di riferimento.
La disuguaglianza misurata indica che ad oggi le soluzioni di IA sono create da menti maschili i cui “bias” possono riflettersi pesantemente sulle analisi dei dati alla base degli algoritmi adottati mentre occorre selezionare adeguatamente i dati utilizzati per l’addestramento tenendo conto della diversità dei dati e delle caratteristiche delle persone. È quindi importante che sempre più professioniste e professionisti capiscano quanto sia importante creare modelli che tengano presenti i rischi e i limiti e utilizzino tali modelli in modo appropriato, perché questi potrebbero riprodurre e amplificare gli stereotipi e i pregiudizi presenti nei dati utilizzati in fase di addestramento del sistema offrendo una rappresentazione distorta della realtà perpetuando comportamenti discriminatori.
Dovrebbero essere proprio le donne che operano nel settore a essere sensibili a questi aspetti in quanto sviluppatrici di soluzioni promuovendone l’uso, comprendendone i limiti e collaborando alla rimozione di ogni aspetto discriminatorio. E non solo loro come sviluppatrici, ma anche le utilizzatrici di IA devono mantenere alta l’attenzione su questi aspetti nell’usare tool di IA in vari settori che richiedono soluzioni di alta complessità. Ad esempio, nel settore artistico, emerge che note professioniste usano la soluzione Midjourney per ideare progetti di abitazioni o quartieri in linea con i principi dell’architettura sostenibile; ne è un esempio Reem Mosleh, architetta originaria della Giordania che utilizza questa piattaforma per creare i suoi edifici famosi perché in grado di emanare luce autonomamente.
Tutto ciò apre il tema sulla creatività, la sensibilità su come l’IA stia modificando il contesto lavorativo; citiamo il caso specifico di tre donne artiste, Sarah Andersen fumettista, Kelly McKernan artista digitale e Karla Ortiz illustratrice, che hanno intentato una causa contro le società Stability AI, Midjourney e DeviantArt con la motivazione di violazione del copyright da parte delle aziende che allenano l’AI con le immagini di artisti/e senza il loro consenso: in particolare, cinque miliardi di immagini protette da copyright sono state utilizzate secondo le artiste per consentire a Midjourney e DeviantArt di creare immagini negli stili di quegli/quelle artisti/e senza autorizzazione.
La reale partecipazione delle donne all’industria dell’IA e il loro contributo nel renderla più inclusiva e meno soggetta a “bias” cognitivi e pregiudizi è un aspetto da osservare a partire dai dati disponibili: il rapporto dell’UNESCO The Effects of AI on the Working Lives of Women pubblicato un anno fa (marzo 2022), indica che solo il 18% dei ruoli esecutivi e di leadership nelle maggiori start up di IA mondiali è ricoperto da donne. Questo conferma aspetti di non parità che si propongono non solo in ambito imprenditoriale ma anche in quello accademico dove ci si attenderebbe una mentalità più aperta e innovativa, invece i dati OECD.AI del 2020 riportano come solo il 14% degli autori/autrici di articoli accademici sull’IA erano donne; il report conclude che aumentare il numero e il tasso di donne nell’imprenditoria e nell’innovazione legate all’IA sarà fondamentale per rendere inclusivo lo sviluppo dell’IA.
LA FORMAZIONE IN AREA STEM
ll rilancio dell’occupazione femminile prospettato dal Piano Nazionale di Ripresa e Resilienza richiede che aumenti il numero delle laureate o diplomate nell’area STEM. Secondo Istat nel 2021 i laureati e le laureate in Italia in queste discipline avevano un tasso di occupazione dell’85,3% (superiore al tasso di occupazione medio dei laureati italiani – 82,1%) che comunque risente di un divario di genere tra gli 8 e i 9 punti percentuali.
Guardando al caso italiano (ISTAT) prima della pandemia nel 2019 le donne diplomate erano quasi i due terzi del totale (il 64,5%) e quelle laureate il 22,4% contro il 16,8% degli uomini; nonostante i livelli di istruzione delle donne fossero più elevati, il tasso di occupazione femminile è molto più basso di quello maschile (56,1% contro 76,8%). Sempre nel 2019, il 24,6% dei laureati (25-34enni) aveva una laurea nelle aree STEM: in questo ambito il divario di genere era ancora molto forte: il 37,3% degli uomini contro il 16,2% delle donne a differenza del campo umanistico dove le quote si invertono: 30,1% tra le laureate e 15,6% tra i laureati. Così come nelle imprese, anche nelle università le donne in Italia rimanevano sottorappresentate rispetto agli uomini: a titolo d’esempio in Italia avevamo 12.303 professori ordinari e 2.952 professoresse ordinarie, i professori associati erano 19.676 mentre le colleghe 7.575. In generale, all’aumentare del livello di carriera, la percentuale femminile calava.
Se consideriamo la situazione post pandemia, in accordo con i dati ISTAT , i laureati STEM sono il 24% del totale dei laureati tra i 24 e i 35 anni; se poi osserviamo più nel dettaglio, distinguendo per genere si mantengono le notevoli differenze già osservate: nel caso degli uomini i laureati STEM sono il 33,7% del totale, le donne solo il 17,6%.
Purtroppo, queste differenze non emergono solo a livello di formazione universitaria ma anche in quella secondaria: nei paesi OCSE (Organizzazione per la Cooperazione e lo Sviluppo Economico), la differenza media di punteggio tra maschi e femmine in matematica è di 5 punti, in favore dei maschi. In Italia questa differenza è più elevata, ben 16 punti in percentuale. Diversa appare la differenza nell’ambito degli ISTITUTI TECNOLOGICI SUPERIORI “ITS Academy” istituiti nel 2010: nel 2022 a fronte di 5.280 diplomati si è raggiunto un risultato importante, il 57,7% di questi sono ragazze.
COOPERAZIONE FRA SAPERI: UN’ALLEANZA PER LA PARITÀ DI GENERE
A fronte delle molteplici aree di impiego di soluzioni di IA, è evidente che sempre più nell’ambito dell’IA sia importante operare in gruppi di lavoro con competenze, visioni diverse e complementari e con figure (maschili e femminili) esperte di informatica, algoritmi e dei vari settori in cui vogliamo applicare questa disciplina.
Occorre contaminare i saperi, affrontare i progetti in modo innovativo, creando costruendo una nuova catena di trasmissione fra vari campi di ricerca; è questo che può offrire pari opportunità a donne e a uomini in questi spazi creativi.
Questo richiede come indicato un approccio inclusivo; non solo, è importante includere vari settori da quello umanistico a quello scientifico permettendo l’uso delle soluzioni di IA che rispettino i principi etici a cui la legislazione europea si richiama, in particolare il principio di parità.
Ci si interroga da tempo sul tema dell’Algocrazia e dei big data, domandandosi se questi segneranno la superiorità del cervello delle macchine su quello dell’uomo; l’IA rimane uno strumento che conferma la sua “superiorità” per ciò che concerne il calcolo, ma chi può fare la differenza sono sempre le menti umane che indirizzano le decisioni da prendere. L’IA deve essere al servizio delle persone, garantendo una supervisione umana, prevenendo i rischi di inasprimento degli squilibri sociali e territoriali potenzialmente derivanti da un suo utilizzo inconsapevole o inappropriato. Occorre offrire a tutti la possibilità di informarsi e accrescere le proprie competenze in materia di IA, almeno per una conoscenza di base.
I sistemi dell’IA devono essere sviluppati in modo che rispettino, servano e proteggano l’integrità fisica e psichica degli esseri umani, il senso di identità personale e culturale e la soddisfazione dei bisogni essenziali. Se vogliamo maggiore equilibrio e maggiore uguaglianza nella costruzione di algoritmi, che siano quindi più inclusivi e rispondano meglio alle caratteristiche e ai bisogni di tutta la popolazione, è necessario agire ora creando un movimento condiviso soprattutto fra le donne per indirizzare le sfide e cogliere le molteplici opportunità tenendo presenti i tanti ambiti in cui l’AI viene utilizzata.
Si ha quindi la conferma che la presenza femminile nella ricerca scientifica, con spirito critico intessuto di passione e coscienza, può veramente fare la differenza: occorre cogliere la sfida proposta ed elaborare nuove strade di innovazione trasparenti.
Le donne possono svolgere un grande ruolo contribuendo a plasmare lo sviluppo sociale, non solo nelle imprese, nei settori produttivi e nella Pubblica Amministrazione dove operano, ma anche dando il loro contributo nel processo di “alfabetizzazione di base” sull’IA grazie ad abilità adeguate in questo ambito. Con il loro lavoro si può contribuire al cambiamento per combattere e sconfiggere gli stereotipi di genere e proporre impegno, competenza come valori di riferimento nei vari campi. L’auspicio è che si possa spesso sentire da tante donne usare quanto detto da Fabiola Giannotti, direttrice generale del più grande laboratorio di fisica delle particelle del mondo, il CERN di Ginevra, nel commentare il suo incarico: “è un mestiere da donne, si tratta di scienza” in particolare nelle aree di applicazione dell’IA.
ABSTRACT
Technology reflects the values of those who create and use it: therefore, stereotypes can influence the development of the proposed solutions introducing negative impacts. In particular, gender stereotypes in Artificial Intelligence are pervasive and can lead to solutions that do not guarantee equality. It is necessary to safeguard the principle of gender equality when AI-based solutions are adopted to offer innovative solution to cope with problems in different contexts. In the construction of algorithms it is necessary to defend the gender equality in a more inclusive society; besides it is necessary to create a network especially among women to address these challenges in many areas in which AI is used.
