“How can I help you today?” – Così recita una delle Intelligenze Artificiali tra le più conosciute, sono infatti poche le persone che non hanno mai letto queste parole e che non hanno mai provato a porle delle domande.

Ma cosa è una IA? Che cosa è in grado di fare? È imparziale, essendo una macchina?

Dal primo neurone artificiale ai Big Data

Il primo passo in questa materia è stato fatto più di 80 anni fa, al contrario di quanto si possa immaginare. Furono un neurofisiologo e un logico, Warren McCulloch e Walter Pitts, a proporre il primo modello nel 1943, costruito cercando di imitare un neurone biologico. Da allora si è cercato di raffinare l’imitazione ma il modello di base è rimasto sempre lo stesso.

Ma perché solo negli ultimi anni l’intelligenza artificiale cattura tutta questa attenzione mediatica, rimbalzando di bocca in bocca, tra governi che cercano di stare al passo per regolamentarla, aziende che cercano talenti per poterla implementare e semplici persone che ne fanno largo uso al posto dei più tradizionali motori di ricerca?

Il motivo per il quale solo adesso i tempi sono maturi è definito da due fattori: i Big Data e l’enorme potenza di calcolo di cui adesso disponiamo grazie al progresso tecnologico.

I Big Data sono un vasto insieme di dati, che possono essere ordinati o meno, ed è solo dopo l’avvento di internet che le persone hanno cominciato a scrivere enormi quantità di testo e a generare una vastità inconcepibile di contenuti come immagini e video: basti pensare che su YouTube ogni minuto vengono caricate più di 500 ore di filmati1.

Cervello umano e intelligenza artificiale

Come un bambino incomincia a parlare imitando i propri genitori, che giorno dopo giorno, incessantemente, gli parlano e lo curano, così anche questo strumento è il risultato dei “dati di addestramento” con i quali viene ripetutamente a contatto.

Ma per quanto questa metafora possa essere utile, ancora non abbiamo raggiunto una intelligenza artificiale sofisticata tanto quanto le capacità cognitive di un essere umano. Infatti le funzioni di attivazione, la struttura neuronale, l’efficienza nelle operazioni, le capacità di adattamento e la plasticità del suo complesso, sono molto lontane da poter imitare un organismo organico.

Le sinapsi biologiche sono molto più che semplici connessioni: sono strutture complesse coinvolte nella trasmissione, elaborazione e modifica dei segnali. La loro forza e il loro comportamento cambiano dinamicamente, contribuendo all’apprendimento, alla memoria e ad altre funzioni cerebrali complesse2.

I parametri dell’intelligenza artificiale sono valori matematici all’interno di un modello, regolati durante il processo di apprendimento. I modelli di intelligenza artificiale hanno difficoltà a ragionare e a pensare in modo critico. Non sono in grado di formarsi un’opinione propria, di analizzare le situazioni da diversi punti di vista o di imparare dalle esperienze nello stesso modo in cui lo fa un cervello umano. Possono analizzare enormi quantità di testo e generare testi simili a quelli umani identificando schemi e relazioni statistiche tra le parole. Tuttavia, non comprendono intrinsecamente il significato delle parole che usano. Infatti un LLM (Large Language Model) analizza un testo molto vasto per predire quale sia la parola che più verosimilmente può seguire una sequenza di parole già scritta. Considera diversi fattori, come la co-occorrenza, ossia quanto spesso due parole (n-grammi) appaiono insieme, il loro ruolo sintattico-grammaticale, ecc… Anche se governata da sofisticati processi, è una pura scelta statistica: il modello assegna una probabilità ad ogni diversa parola e sceglie di solito tra quelle più probabili secondo i pattern con i quali è stato addestrato.

La qualità di una IA è strettamente legata a quella dei suoi dati di addestramento.

Applicazioni e allucinazioni

Le reti neurali possono essere applicate in diversi settori e possono specializzarsi per diverse funzioni:

  • abbiamo parlato di quella generativa di testi, ma possono generare anche brani musicali ed immagini;
  • possono prevedere un evento e dirci con che probabilità esso possa verificarsi, come l’efficacia di un farmaco o i suoi effetti collaterali;
  • possono analizzare i fattori determinanti, estrapolando e generando valore dai dati;
  • sono capaci di riconoscere i pattern, evidenziando anomalie o comprendendo un consumatore.

Hanno capacità poliedriche molto vaste, ma questo non le rende immuni da errori come le “allucinazioni”.

Parliamo di allucinazione quando un modello genera un contenuto che non ha senso, o peggio, sembra averlo ma è falso e non supportato da nessuna base logica o scientifica. Più una IA è versatile e capace di trattare topic differenti, maggiore è l’insidiosità dell’allucinazione3. Le allucinazioni di fedeltà (in inglese, “faithfulness hallucinations”) si verificano quando viene generato un output che non è coerente con le istruzioni o con il contesto forniti dall’utente, oppure si contraddice da solo. Ad esempio, un modello a cui si chiede di riassumere un articolo di notizie potrebbe generare un riassunto che sembra realistico e ben scritto, ma che contiene informazioni assenti dall’articolo o in contrasto con esso.

Le allucinazioni di fattualità (in inglese, “factuality hallucinations”) si verificano quando viene generato un testo che è grammaticalmente corretto e coerente con i dati di allenamento, ma che è impossibile o altamente improbabile nella realtà. Ad esempio, un modello addestrato su un set di dati di ricette potrebbe generare una nuova ricetta che include ingredienti inesistenti o istruzioni di cottura impossibili.

Una delle principali ragioni che può portare alle allucinazioni sono i bias nascosti nei dati di addestramento che favoriscono certi comportamenti e discriminano altri, producendo un “biased output”.

Un algoritmo imparziale?

Vi era un tempo, e forse per qualcuno ancora è così, che sognando un sistema di giudizio esterno ed imparziale si credeva che un algoritmo potesse prendere delle scelte basate sui dati e per questo oggettive4. Ma un software non può essere immune dall’influenza e parzialità umana e tantomeno una Intelligenza Artificiale che impara da disuguaglianze consolidate negli anni. Essa non è in grado di discernere il bene dal male, ciò che è “giusto” e ciò che è “sbagliato” viene inserito grazie a delle etichette sui dati, e il modello riesce a generalizzare questo concetto, diventando capace di ripeterlo anche su dati non etichettati, senza però comprenderne il motivo. Una semplice “operazione matematica”.

Utilizzare sistemi automatizzati per prendere decisioni enfatizza le discriminazioni, invece di ridurle o eliminarle, portandole su una scala più vasta.

Disuguaglianza: limitazione o ricchezza?

Nonostante il bias giochi un ruolo importante nel processo di discriminazione, non necessariamente la provoca: il bias è definito come la deviazione dallo standard, ed è qualche volta necessario per identificare l’esistenza di pattern statistici nei dati o nel linguaggio. Classificare e trovare differenze sarebbe impossibile senza il bias5.

Infatti la relazione tra bias e discriminazione non è sempre chiara e comprensibile.

Molti affermano che eliminando il bias anche la discriminazione possa essere eliminata o ridotta, ma poiché le implementazioni spesso ignorano il contesto in cui l’algoritmo verrà utilizzato, la decisione di stabilire se un output distorto si traduce in un caso di discriminazione è spesso lasciata alla valutazione dell’utente.

Per spiegare meglio questo concetto pensiamo ad un algoritmo sofisticato che ci consiglia quali siano i candidati migliori da assumere dopo aver analizzato i curriculum. Potremmo notare che predilige i candidati con un’età tra i 25 ed i 35 anni e questo potrebbe essere una discriminazione, ma se invece l’obiettivo è proprio quello di assumere candidati più giovani per poter avere un ricambio generazionale all’interno dell’azienda ecco che non si tratterebbe di una discriminazione dell’algoritmo, ma di un risultato atteso.

Misure del bias e consapevolezza

Esistono diversi modi di misura del bias, la misura statistica è la più intuitiva e comprende tre aspetti, il primo che diverse categorie possano disporsi nei risultati con la stessa probabilità, ad esempio, se a quattro richiedenti su cinque del gruppo avvantaggiato è stato concesso un mutuo, anche la stessa percentuale di richiedenti del gruppo protetto dovrebbe ottenere il mutuo. Il secondo aspetto è soddisfatto se i gruppi non protetti e quelli protetti hanno pari probabilità che una classificazione positiva sia corretta, mentre l’ultimo aspetto è quello della buona calibrazione: la probabilità stimata dall’algoritmo deve corrispondere alla reale frequenza dei risultati in ciascun gruppo6.

Come già detto questa è la misura più semplice, ma vengono adoperate altre misure più complesse per poter avere un modello che limiti le disuguaglianze e non crei discriminazioni, come la misura di somiglianza tra gli individui, chiamata “equità attraverso la consapevolezza”7, secondo la quale, affinché l’equità sia valida, la distanza tra le distribuzioni dei risultati per gli individui dovrebbe essere al massimo la distanza tra i due individui stimata attraverso una metrica di somiglianza.

Questo ci mostra come nel settore vengono spese numerose energie nell’analizzare un modello con lo scopo di migliorarlo il più possibile e di ridurre al minimo le discriminazioni. Ma senza la consapevolezza degli utilizzatori, ogni sforzo rischia di essere vano: bisogna utilizzare buon senso ed intelligenza prima di applicare un algoritmo o un modello per automatizzare delle decisioni su larga scala. Le intelligenze artificiali sono degli strumenti potenti e in quanto tali possono portare a grandi benefici o grandi disparità. C’è necessità crescente di persone oneste e timorate di Dio8, a conoscenza dei limiti e dei rischi di questi strumenti e capaci di usarli con sapienza.

Pubblicato originariamente nel dossier “Tempo del Creato 2024” della commissione GLAM della FCEI

  1. How YouTube search works – YouTube Help («over 500 hours are uploaded every minute»; dato comunicato da YouTube nel 2019). Vedi anche Statista. ↩
  2. Proverbi 20:5 “I pensieri umani sono come acqua profonda; chi è intelligente sa attingerla.” ↩
  3. L. Huang et al., A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions, arXiv:2311.05232, 2023. ↩
  4. Can an Algorithm Hire Better Than a Human? – The New York Times (nytimes.com) ↩
  5. Definizioni ed esempi di questa sezione e della successiva riprendono X. Ferrer, T. van Nuenen, J. M. Such, M. Coté, N. Criado, Bias and Discrimination in AI: a cross-disciplinary perspective, arXiv:2008.07309, 2020. ↩
  6. Criteri come la calibrazione per gruppo e il bilanciamento tra gruppi, salvo casi molto particolari, non si possono soddisfare tutti insieme: J. Kleinberg, S. Mullainathan, M. Raghavan, Inherent Trade-Offs in the Fair Determination of Risk Scores, 2016 (ITCS 2017). ↩
  7. C. Dwork, M. Hardt, T. Pitassi, O. Reingold, R. Zemel, Fairness Through Awareness, ITCS 2012. ↩
  8. Gàlati 3:3 “Siete proprio così sciocchi? Avete incominciato a vivere con lo Spirito di Dio e ora volete andare avanti con sforzi umani?” ↩

Citazioni bibliche tratte da “Parola del Signore – La Bibbia in lingua corrente” (TILC), © 1985, 2008, 2014 Editrice Elledici e United Bible Societies.