Premessa: la nuova legge europea sull’AI
Per realizzare un computer ci vuole un informatico, per sviluppare una forma di intelligenza artificiale è indispensabile un umanista.
È lo slogan di una start up bolognese che sta proponendo modelli linguistici per l’addestramento dei dispositivi automatici.
Probabilmente saranno fra le poche imprese in qualche modo investite dalle norme che la Comunità Europea faticosamente sta varando in queste settimane, dopo il via libera ricevuto dal famoso quanto indecifrabile Trilogo europeo, l’organismo trilaterale che vede connessi il Parlamento, la Commissione che è l’organismo esecutivo, e il Consiglio, che raggruppa i governi dei paesi aderenti.
Un problema di tempistica
Al momento stiamo leggendo sintesi e schede tecniche di un disciplinare ancora tutto a venire.
In sostanza sono stati concordati i principi guida che, come sappiamo bene, soprattutto nei complessi testi legislativi comunitari, guidano ben poco, visto che poi le leggi sono un insieme di eccezioni e deroghe.
Anche in questo caso abbiamo una rete a maglie molto larghe, con un punto interrogativo che rischia di rendere il tutto solo un’esercitazione retorica: la data.
Infatti tutto il lavoro di lima e convergenza che da almeno un anno vede intere schiere di collaboratori ed esperti sudare in fumose stanze per contemperare interessi e ambizioni dei singoli paesi dell’Unione rischia di essere vanificato dalla cronologia.
Se davvero il provvedimento, ammesso che sia licenziato nella forma più trasparente e riconoscibile, dovesse, come si è annunciato, entrare in vigore non prima del 2025, ossia fra due anni, ci troveremmo dinanzi ad una norma che mira a intervenire su un settore – l’intelligenza artificiale e i processi di automatizzazione delle attività e professioni – del tutto avulso alla realtà. 24 mesi nell’ambito dei processi digitali sono esattamente un’epoca, un’intera fase di ricambio delle soluzioni che muteranno completamente in quantità e qualità, rendendo le singole parti della legge praticamente desuete se non proprio inutili.
Lo zampino delle multinazionali
Su questo apparente dettaglio hanno lavorato molto le agguerrite e spendaccione lobbies dei gruppi digitali multinazionali che sono ormai installate a Bruxelles e tallonano ogni singolo decisore delle istituzioni del vecchio continente.
Spostare anche di qualche mese la data del varo del testo significa poter procedere in maniera indisturbata a gestire il proprio gigantesco business tecnologico e soprattutto esercitare il loro “Dominio“, come lo definì nel suo ultimo libro il filoso Remo Bodei, sulle relazioni umane.
Ingabbiare la potenza di calcolo
Proprio su gli aspetti del controllo sulle forme di interferenza e di orientamento subliminale ha lavorato il Trilogo, puntando a definire una griglia di procedure e vincoli che possa ingabbiare la potenza di calcolo e di profilazione dei sistemi digitali.
Si è insistito nel tutelare il copyright dei titolari di contenuti, anche se non si è ancora elaborato un modello armonico per equilibrare domanda di diffusione e tutela autoriale dinanzi ad uno sviluppo esponenziale delle forme collaborative e partecipative nell’elaborazione di contenuti. In questa fase dobbiamo anche rilevare il nuovo ruolo, e dunque peso contrattuale, dei grandi apparati editoriali (audiovisivo, informazione, editoria, formazione) nella strategica funzione di addestramento dei dispositivi di A.I. L’obbiettivo è costringere i proprietari di questi dispositivi, i cosiddetti “generativi”, da OpenAI a Google a Amazon a Microsoft, a denunciare le modalità di addestramento e le caratteristiche strutturali degli algoritmi che costituiscono il meccanismo automatico.
La chiave è la negoziazione
Questo è un passaggio importante, che in qualche modo raccoglie l’indicazione del regolamento appena licenziato, in termini operativi, dalla Casa Bianca che prevede per l’appunto espliciti vincoli per i produttori di tecnologia nel trovare modi e forme di un confronto negoziale con gli utenti, tanto più se questi si presentano con le vesti di comunità o soggetti collettivi.
Si individua qui un passaggio fondante dell’azione di un soggetto pubblico rispetto alla velocità con cui mutano prodotti e servizi digitali. Come abbiamo già detto le procedure legislative ormai sono del tutto scavalcate e disattivate dalla frenetica evoluzione di questi parametri tecnologici che cambiano rapidamente struttura e natura, rendendo le norme inapplicabili. L’unica forma di controllo sociale che potrebbe agganciare proprio questa evoluzione permanente è un meccanismo di contrattazione altrettanto permanente che vede gli utenti, sotto forma di comunità metropolitane o di gruppi professionali o ancora di centri di ricerca universitari monitorare, con piattaforme di servizio pubblico, la metamorfosi degli algoritmi privati controllandone l’adeguamento alle regole fissate dalla legge.
In sostanza bisogna varare soluzioni coerenti: un algoritmo può essere controllato efficacemente solo da un altro algoritmo. Altrimenti ci troviamo vittima della celebre metafora di Indiana Jones: quando un uomo con la pistola incontra un uomo con il fucile, il primo è un uomo morto.
Riconoscibilità e coerenza con i valori
Il corredo dei principi che sono stati selezionati, da questo punto di vista, focalizza sufficientemente bene la necessità di rendere trasparenti e condivisi i sistemi di intelligenza artificiale, imponendo la loro riconoscibilità – io devo sapere se sono di fronte ad un bot artificiale o ad un essere umano per valutare i contenuti che mi sono proposti – e la coerenza con i valori e le pratiche di una democrazia aperta e pluralista.
Per tanto non posso essere bersaglio di campagne mirate da parte di sistemi che hanno come obbiettivo l’interferenza nel mio senso comune, tipo Cambridge Analytica. Così come devo avere la piena consapevolezza del modo con cui sono stati addestrati sistemi che entrano in ambienti sensibili, quali un ospedale, una redazione, una pubblica amministrazione, una scuola. Pensiamo che nei prossimi 12/18 mesi assisteremo ad un’invasione di extraterrestri negli uffici e nelle imprese di servizi o di produzione.
L’Agenzia delle entrate, uno degli apparati non leggendari per la predisposizione all’innovazione, già da mesi ricorre a sistemi di intelligenza artificiale per individuare e perseguire gli evasori: posso sapere con quali orientamenti e sistemi cognitivi sono stati alimentati quegli algoritmi che decidono la base impositiva del mio paese?
L’urgenza di un dibattito pubblico
Ma come ogni legge anche questa, se non viene sostenuta da una pressione sociale, rischia di diventare lettera morta. Per cui ritorniamo ai modi di intervento e partecipazione delle componenti della società civile e politica. Infatti non è certo incoraggiante il silenzio da parte di partiti e sindacati che in questi giorni non si sono fatti minimamente sentire mentre infuriava la guerra degli interessi attorno ai singoli codicilli della proposta di legge.
Un dualismo che potrebbe dare spazio e respiro ad un dibattito politico riguarda proprio le modalità di addestramento. Sul mercato ormai si comincia a registrare una certa difficoltà da parte dei sistemi proprietari nel gestire privatamente l’alimentazione delle nuove release tecnologiche che devono essere formate con una massa sempre più mastodontica di dati che implica costi ormai proibitivi persino per i giganti americani. L’unica alternativa a queste pratiche proprietarie sono le procedure in Open Source che sfruttano la gigantesca potenza di produzione e indirizzamento della rete: ovviamente questo comporta un’apertura e messa a disposizione dei codici sorgenti, rendendo così automaticamente risolto anche il problema della trasparenza del calcolo. L’Europa sembra fare qualche timido passo in questa direzione, avendo infatti esentato le aziende che si basano sull’Open Source da controlli e vincoli.
Ma bisogna andare oltre, rendendo ad esempio obbligatorio per le pubbliche amministrazioni e il circuito sanitario il ricorso a meccanismi esclusivamente di natura open source. Ma questo chi lo chiede?
Neanche su gli aspetti di natura più delicati per la democrazia.
Gran parte della discussione infatti è stata dedicata a fissare i limiti dell’uso di queste risorse tecnologiche da parte dei corpi di polizia dei singoli stati. Parliamo di quelle tecniche predittive e di riconoscimento biologico che solo fino a qualche anno fa erano ancora pura fantascienza. Oggi abbiamo molti stati, non solo di natura autarchica e dittatoriale, che usano massicciamente queste tecniche per sorvegliare e monitorare i propri cittadini. I divieti che la normativa europea prevede sono stati, anche in questo caso, resi meno vincolanti da un catalogo di eccezioni che lascia spazio per inquietanti abusi. Ovviamente il pretesto sono le minacce di terrorismo oppure i crimini contro la persona più gravi. Ma il nodo rimane quello dei controlli sociali: uno stato può decidere, come nel caso della agenzia delle entrate o dei corpi di polizia, di adottare dispositivi intelligenti senza rendere trasparente, lui per primo, l’articolato dei principi e dei valori che guidano il sistema? E quali strumenti ha un cittadino per esercitare quei controlli che poi gli stati rivendicano nei confronti dei centri tecnologici privati?
Calcolanti e calcolati
Siamo ad un labirinto complesso che al momento vede esclusivamente i titolari della potenza di calcolo, diciamo appunto i calcolanti, avere in mano tutte le carte e poterle mischiare in modo da sottrarsi ai controlli reali. Mentre i calcolati, gli utenti si trovano senza tutela concreta da parte delle istituzioni ma soprattutto senza un sistema di rappresentanza politica in grado di far valere i principi di reciprocità e controllo pubblico.
È una circostanza non inedita: già in passato nei tornanti più densi dei processi innovativi, pensiamo all’avvento dell’energia elettrica, o della catena di montaggio, o ancora dell’energia nucleare, siamo rimasti inizialmente spiazzati da una intraprendenza della tecnica che forze proprietarie hanno cercato di teorizzare come fine di ogni dialettica.
Il fare è tutto, diceva Nietzsche, e aggiungeva, perché non ci fossero dubbi sulla sua visione vitalistica, che “colui che fa è solo un accessorio inventato dal fare”. Dunque il regista, il protagonista di questo fare diventa un deus con la macchina, più che ex machina. Proprio nella differenza fra deus ex machina e deus con la macchina dovremmo ritrovare la forza e l’opportunità di trasformare lo stupore o sgomento dinanzi alla strabiliante capacità tecnologica in azione politica per civilizzare questa straordinaria opportunità sociale di cui la tecnologia è parte ma mai motore.
Abstract
The draft of the new European regulation aims to constrain the intrusion of artificial intelligence devices into social relations and also tries to follow their evolution towards even more powerful phases. The black hole of implementation times remains, which are too long and risk nullify the effort. Still ambiguity in the exemptions granted to states to adopt citizen monitoring and surveillance systems with new technologies
