Capitolo 3: Intelligenza Artificiale, Machine Learning & Governance Regolamentare

Il terzo modulo del corso esplora i fondamenti teorici e algoritmici dell’Intelligenza Artificiale (IA) e del Machine Learning (ML), collegandoli direttamente alle sfide di spiegabilità (Explainable AI), equità algoritmica (Fairness), tutela della privacy e al quadro regolamentare europeo (EU AI Act) e nazionale (Legge 132/2025).

1. Definizione di Intelligenza Artificiale e Agenti Intelligenti

Che cos’è un Sistema di Intelligenza Artificiale?

In letteratura non esiste un’unica definizione rigida e universalmente valida di Intelligenza Artificiale, poiché i confini della disciplina evolvono continuamente. Tuttavia, dal punto di vista ingegneristico e giuridico, l’IA si definisce come la disciplina che studia i fondamenti e le tecniche per progettare sistemi hardware e software dotati di due proprietà essenziali:

Autonomia: la capacità di prendere decisioni e compiere azioni in modo indipendente, richiedendo poche istruzioni iniziali ed esibendo comportamenti di ragionamento e scelta che, agli occhi di un osservatore esterno, appaiono tradizionalmente di prerogativa umana.
Adattività e Apprendimento Continuo: a differenza di un programma informatico tradizionale deterministico (in cui il programmatore codifica a priori tutte le regole tramite costrutti statici IF condizione THEN azione), un sistema di IA costruisce e aggiorna dinamicamente le proprie regole in base ai dati e all’esperienza. Il sistema impara sia nella fase iniziale di addestramento, sia durante l’esercizio operativo grazie ai nuovi dati e ai feedback ricevuti dagli utenti (come il pollice su/giù nelle moderne chat conversazionali).

Anatomia dell’Agente Intelligente e Razionalità

I primi modelli di Intelligenza Artificiale sono nati attorno al concetto di Agente Intelligente: un’entità che interagisce continuamente con l’ambiente circostante.

Sensori ed Attuatori

L’agente percepisce lo stato dell’ambiente esterno attraverso dei sensori (es. fotocamere, lidar, microfoni, sensori di prossimità) e agisce concretamente per modificare l’ambiente mediante degli attuatori (es. motori, ruote, bracci meccanici).
Esempio: il robot aspirapolvere domestico rileva la presenza di una parete tramite i sensori e aziona gli attuatori per ruotare e cambiare direzione.

Percezioni e Funzione Agente

La Sequenza di Percezioni rappresenta la cronologia completa di tutti i rilevamenti effettuati dai sensori lungo l’intera vita dell’agente.
La Funzione Agente è la mappatura matematica che associa a ogni sequenza di percezioni la specifica azione da compiere.

Misura di Performance e Razionalità

La Misura della Performance è una funzione che associa a ogni stato dell’ambiente un valore oggettivo di utilità.
Un Agente Razionale è quello che, basandosi sulle percezioni raccolte e sulla conoscenza pre-programmata, seleziona sempre l’azione che massimizza il valore atteso della performance.

Tassonomia delle Architetture degli Agenti Intelligenti

L’evoluzione storica degli agenti intelligenti si articola in quattro classi di complessità crescente:

Agenti Reattivi Semplici (Simple Reflex Agents)
Selezionano l’azione basandosi esclusivamente sulla percezione corrente, ignorando del tutto la storia passata (non hanno memoria). Funzionano tramite regole rigide IF condizione THEN azione (es. “se vedi il muro davanti, gira”). Sono efficaci solo in ambienti completamente osservabili e falliscono in presenza di opacità.
Agenti Basati su Modello (Model-Based Agents)
Mantengono uno stato interno, ovvero una memoria di ciò che è accaduto in passato per ricostruire la parte dell’ambiente non direttamente osservabile al momento (es. il robot aspirapolvere evoluto che, girando per le stanze, costruisce e memorizza una mappa della casa e della disposizione dei mobili). Modellano inoltre l’evoluzione dell’ambiente e gli effetti prodotti dalle proprie azioni.
Agenti Basati su Obiettivi (Goal-Based Agents)
Oltre a mantenere un modello del mondo, integrano informazioni esplicite sulle situazioni desiderabili da raggiungere (goal), applicando tecniche di pianificazione e ricerca per individuare la sequenza di mosse che conduce al traguardo.
Agenti Basati su Utilità (Utility-Based Agents)
Poiché un obiettivo può essere raggiunto in molti modi diversi (più o meno rapidi, sicuri o economici), questi agenti valutano quantitativamente la “bontà” di ogni stato mediante una funzione di utilità, gestendo trade-off complessi per scegliere sempre il tragitto che massimizza le prestazioni.

2. Problemi di Ricerca e Formalizzazione dello Spazio di Stato

Storicamente, gli algoritmi di IA nascono come formalizzazione dei problemi di ricerca su grafo o su albero.

Formalizzazione e Passi della Risoluzione

Spazio di Stato: l’insieme di tutte le possibili situazioni o configurazioni (nodi del grafo) in cui può trovarsi l’ambiente.
Transizioni ed Azioni: le mosse o gli spostamenti ammissibili (archi del grafo) che consentono di passare da uno stato all’altro.
Funzione di Costo: il peso numerico associato a ciascuna transizione che ne esprime la complessità o il dispendio (es. in un navigatore stradale: la distanza chilometrica, il tempo di percorrenza o il fatto che una strada non sia asfaltata).

Il processo risolutivo si divide in tre fasi:

Formulazione: definizione rigorosa dei vincoli, dello stato iniziale e dei requisiti dello stato obiettivo.
Ricerca della Soluzione: costruzione ed esplorazione di un albero di ricerca partendo dalla radice ed espandendo i nodi figli (è la fase computazionalmente più complessa).
Esecuzione: applicazione concreta della sequenza di azioni individuata per raggiungere l’obiettivo minimizzando il costo (o massimizzando l’utilità).

Ricerca Non Informata vs. Ricerca Informata

Strategia di Ricerca	Meccanismo di Esplorazione	Caratteristiche e Limiti
*Ricerca Non Informata (Alla cieca)*	Non possiede alcuna stima su quale nodo sia più vicino alla soluzione. Esplora sistematicamente tutti i nodi seguendo un criterio d’ordine fisso (FIFO — First-In First-Out, LIFO — Last-In First-Out, ricerca in ampiezza o in profondità).	Semplice da implementare ma estremamente dispendiosa: nei problemi reali il numero di stati da esplorare diventa presto proibitivo.
*Ricerca Informata (Euristica)*	Sfrutta una funzione di valutazione e stima euristica (es. Greedy Best-First) per stimare la bontà dei nodi.	Esplora prioritariamente i nodi figli più promettenti che massimizzano o minimizzano la funzione obiettivo, riducendo drasticamente i tempi di ricerca.

Si pensi al semplicissimo gioco del Tris (Tic-Tac-Toe): partendo dalla griglia vuota e alternando le mosse dei due giocatori (MAX (X) e MIN (O)) fino agli stati terminali di vittoria (+1), pareggio (0) o sconfitta (-1), l’albero delle combinazioni possibili cresce già in modo esponenziale.

Se passiamo agli Scacchi o, ancor di più, a un moderno Large Language Model (LLM) — in cui i nodi corrispondono a tutte le possibili combinazioni di lettere, sillabe e parole di una lingua — lo spazio degli stati diventa praticamente infinito. È proprio dall’impossibilità computazionale di esplorare tutti i nodi di uno spazio così vasto che nasce il Machine Learning: anziché esplorare l’intero albero delle possibilità, la macchina apprende dai dati e dall’esperienza (es. imparando a perdere sempre più lentamente fino a individuare la strategia vincente) quali sono le mosse ottimali senza doverle calcolare tutte a priori.

3. Fondamenti di Machine Learning, Overfitting e Tassonomia dei Modelli

Regole vs. Apprendimento e il Problema dell’Overfitting

Mentre l’Intelligenza Artificiale è l’insieme generale delle metodologie, il Machine Learning (ML) costituisce il sottoinsieme di algoritmi che estraggono autonomamente le regole analizzando grandi masse di dati:

Opacità delle regole create: mentre nella programmazione tradizionale conosciamo ogni singolo if-then-else perché lo abbiamo scritto noi, nel Machine Learning le regole vengono generate autonomamente dal sistema e spesso nemmeno il progettista conosce a priori il criterio esatto che il modello adotterà.
Partizionamento e Generalizzazione: come visto nel Capitolo 1, il dataset di partenza (opportunamente campionato) viene diviso in Training Set (dato in pasto all’algoritmo per apprendere i pesi) e Test Set (dati indipendenti mai visti in addestramento, usati per simulare il comportamento in esercizio).
Overfitting e Cross-Validation: se il modello si adatta eccessivamente ai dati specifici e al rumore del Training Set, perde la capacità di generalizzare e fallisce sul Test Set (Overfitting). Per bilanciare flessibilità e rigidità della funzione appresa si ricorre a tecniche di Cross-Validation (suddivisione iterativa dei sottoinsiemi di training e validazione).
Monitoraggio Continuo e Principio di Esattezza GDPR (Art. 5 GDPR): un modello ML continua a mutare o a subire l’effetto dei nuovi dati in esercizio. È obbligatorio monitorarlo costantemente per due ragioni:
1. Manipolazione intenzionale (Data Poisoning): inserimento artificioso di contenuti o recensioni in rete per alterare le raccomandazioni dei modelli conversazionali verso specifici prodotti commerciali.
2. Deriva del campionamento e Bias: se in esercizio entrano dati sbilanciati (es. un sistema di calcolo della pena sottoposto per il 99% a soggetti appartenenti a una specifica minoranza etnica), il modello rischia di assumere l’etnia come parametro penalizzante. L’Art. 5 GDPR (Principio di Esattezza) impone il controllo e il riaddestramento periodico per prevenire il deterioramento della qualità e dell’equità dei dati.

Mappa Generale dei Modelli di Machine Learning

Gli algoritmi di Machine Learning si articolano in quattro grandi famiglie metodologiche:

1. Statistical Inference

Supervised Learning:
- Classification: k-NN, SVM, Decision Trees, Logistic Regression, Naive Bayes
- Regression: Linear, Polynomial, Ridge ( $L_2$ ), Lasso ( $L_1$ )
Unsupervised Learning:
- Clustering: K-Means, DBSCAN, Fuzzy C-Means, Mean-Shift
- Pattern Search (Associazione): Apriori, FP-Growth, ECLAT
- Dimensionality Reduction: PCA, LDA, SVD, t-SNE

2. Neural Networks & Deep Learning

Multilayer Perceptron (MLP)
Convolutional Neural Networks (CNN) (visione artificiale)
Recurrent Neural Networks (RNN): LSTM, GRU (sequenze)
Transformers (reti a cascata con Self-Attention per LLM)
Generative Adversarial Networks (GAN)
Autoencoders & Radial Basis Function

3. Ensemble Models

Bagging: Random Forest (votazione paritaria a maggioranza)
Boosting: AdaBoost, CatBoost, XGBoost, LightGBM, Gradient Boost (voto pesato sull’errore)
Stacking: Meta-classificatore di secondo livello

4. Reinforcement Learning

Q-Learning
Deep Q-Network (DQN)
SARSA & A3C
Genetic Algorithms

4. Apprendimento Supervisionato: Classificazione e Regressione

Nell’Apprendimento Supervisionato (Supervised Learning) forniamo alla macchina durante il training sia l’input sia l’output desiderato (label / etichetta). Si divide in Classificazione (quando l’output è un insieme finito e discreto di classi) e Regressione (quando l’output è un valore numerico continuo).

Algoritmi di Classificazione (Target Discreto)

k-Nearest Neighbor (k-NN — Il $k$ -esimo vicino più prossimo)

Logica di Vicinanza: i dati di addestramento (già etichettati, es. pazienti classificati “a rischio” o “non a rischio” in base a Età e Livello di Glucosio) vengono disposti su un piano cartesiano o in uno spazio vettoriale multidimensionale delle feature. Quando arriva un nuovo elemento non etichettato, l’algoritmo osserva i suoi $k$ elementi più vicini e gli assegna la classe maggioritaria. Una volta classificato, il nuovo punto entra a sua volta nel sistema per le valutazioni future.
Calcolo della Distanza: utilizza tipicamente la Distanza Euclidea (o in alternativa la distanza di Manhattan o quadratica).
Applicazione e Rischi: è il motore del Filtraggio Collaborativo nei sistemi di raccomandazione (es. piattaforme di streaming musicale), ma comporta il rischio di confinare l’utente in filter bubbles (bolle di filtraggio informativo).

Decision Trees (Alberi Decisionali)

Struttura ad albero di condizioni: suddividono ricorsivamente i dati valutando a ogni nodo interno una specifica condizione/soglia su una feature (es. Sesso = Maschio? $\rightarrow$ Età > 9.5?) e diramando il percorso lungo i rami fino a giungere alle foglie finali, che restituiscono la classe predetta.
Differenza dagli IF tradizionali: le regole e le soglie sui nodi non sono scritte dal programmatore, ma vengono apprese e modificate autonomamente dal sistema a partire dai dati.
Trade-off Spiegabilità vs. Prestazioni: gli alberi decisionali sono il prototipo di modello Transparent Box (è facilissimo capire e spiegare passo dopo passo perché l’algoritmo ha preso una decisione), ma a parità di potenza di calcolo risultano computazionalmente meno efficienti e meno performanti rispetto ad altri modelli più complessi.

Algoritmi di Regressione (Target Continuo Numerico)

Quando l’obiettivo è stimare un valore continuo (es. il prezzo di mercato di un immobile in base a zona, metratura, stato di ristrutturazione e riscaldamento), si ricorre agli algoritmi di Regressione:

Regressione Lineare e Logistica:
- Regressione Lineare: costruisce una funzione continua tramite combinazione lineare delle caratteristiche di input ( $x_i$ ) pesate da specifici coefficienti ( $w_i$ o $a_i$ ): $y = a_1 x_1 + a_2 x_2 + \dots + a_n x_n + b$ L’algoritmo calcola i pesi che minimizzano la somma dei residui quadrati (assegnando pesi maggiori alle feature più correlate con l’output). Soffre tuttavia di forte instabilità dei coefficienti in presenza di multicollinearità (variabili di input fortemente correlate tra loro).
- Regressione Logistica: variante che mappa l’output continuo in un valore di probabilità compreso nell’intervallo $[0, 1]$ per risolvere problemi di classificazione binaria.
Tecniche di Regolarizzazione (Penalizzazione contro l’Overfitting): per stabilizzare la regressione e contrarre i pesi in presenza di errori o rumore si utilizzano due metodologie:

Caratteristica	Ridge Regression (Penalizzazione $L_2$ )	Lasso Regression (Penalizzazione $L_1$ )
Termine di Penalizzazione	Aggiunge alla funzione di costo la somma dei quadrati dei coefficienti pesata da un parametro $\lambda$ .	Aggiunge alla funzione di costo la somma dei valori assoluti dei coefficienti.
Comportamento sui Pesi	Contrazione dei pesi: riduce l’ampiezza dei coefficienti verso lo zero, ma non li annulla mai del tutto (conserva tutte le variabili nel modello).	Selezione automatica delle feature: arriva ad azzerare completamente ( $\text{peso} = 0$ ) i coefficienti delle variabili irrilevanti, eliminandole dal modello (modelli sparsi).
Quando utilizzarla (Criterio di Scelta)	Quando ci si trova in presenza di variabili fortemente correlate tra loro e non si vuole eliminare alcuna caratteristica.	Quando i dati sono molto dispersi e si desidera semplificare il modello scartando le variabili inutili o ridondanti.
Rilevanza Giuridica	Stabilizza le stime numeriche complessive.	L’azzeramento automatico delle feature irrilevanti riduce il rischio di includere indirettamente fattori discriminatori e rende il modello più interpretabile.

5. Apprendimento Non Supervisionato: Clustering e Associazione

Nell’Apprendimento Non Supervisionato (Unsupervised Learning) non forniamo alla macchina gli output attesi: il sistema riceve esclusivamente i dati grezzi di input e deve scoprire autonomamente strutture, gruppi o correlazioni intrinseche (es. analizzare la disposizione dei pixel di migliaia di immagini di cifre scritte a mano e raggrupparle per somiglianza formale senza sapere a priori cosa rappresenti la cifra “2” o “5”).

Algoritmi di Clustering (Raggruppamento)

K-Means Clustering

Fissaggio di $K$ Centroidi: si sceglie a priori il numero $K$ di sottogruppi desiderati e si inizializzano $K$ punti centrali rappresentativi (centroidi).
Assegnazione e Ricalcolo Iterativo: ogni punto viene associato al centroide più vicino (tramite distanza euclidea) e, man mano che i gruppi si infoltiscono, si ricalcola iterativamente la posizione del centroide fino a convergenza.
Criticità Principale: la scelta a priori del numero $K$ . Se $K$ non è adeguato alla distribuzione reale, l’algoritmo rischia di fondere due cluster distinti in uno solo o di spezzare artificialmente un gruppo omogeneo.

DBSCAN (Density-Based Clustering)

Basato sulla Densità (Density-Reachability): raggruppa i punti valutando la densità di elementi presenti entro un raggio di distanza $\varepsilon$ .
Gestione Automatica del Rumore: rappresenta la principale miglioria rispetto al K-Means: quando individua punti isolati molto distanti da tutti gli altri, li classifica come “rumore” (outlier) e li scarta, evitando di forzarne l’assegnazione a un cluster.
Forme Arbitrarie: è in grado di scoprire cluster di qualsiasi forma geometrica (anche non sferica).

Regole di Associazione e Algoritmo Apriori

La seconda famiglia di algoritmi non supervisionati individua regole di associazione e co-ricorrenza ( $A \Rightarrow B$ ) all’interno di grandi database transazionali. L’algoritmo di riferimento è l’Algoritmo Apriori, celebre per l’analisi dei carrelli della spesa nella grande distribuzione (Market Basket Analysis) e per i sistemi di raccomandazione nell’e-commerce.

L’algoritmo si basa su due metriche matematiche fondamentali:

Supporto (Support): la percentuale di transazioni totali in cui compare uno specifico elemento o insieme di elementi (itemset).
Confidenza (Confidence): la probabilità condizionata che un cliente acquisti l’elemento $B$ sapendo che ha già acquistato l’elemento $A$ .

Esempio Pratico di Calcolo con l’Algoritmo Apriori

Immaginiamo un supermercato che analizza 5 carrelli della spesa (transazioni) passati alla cassa per decidere come disporre i prodotti sugli scaffali:

Transazione 1: {latte, pane, burro}
Transazione 2: {latte, pane}
Transazione 3: {latte, burro}
Transazione 4: {pane, burro}
Transazione 5: {latte, pane, burro}

Calcolo degli Itemset frequenti di ordine 1 (Singoli prodotti)
Si calcola il Supporto di ciascun singolo articolo sul totale delle 5 transazioni:
- $\text{Supporto}(\text{Latte}) = 4/5 = \mathbf{80\%}$
- $\text{Supporto}(\text{Pane}) = 4/5 = \mathbf{80\%}$
- $\text{Supporto}(\text{Burro}) = 3/5 = \mathbf{60\%}$
Calcolo degli Itemset frequenti di ordine 2 (Coppie di prodotti)
Si combinano i prodotti frequenti calcolando in quante transazioni compaiono insieme:
- La coppia $\{\text{latte, pane}\}$ compare nelle transazioni 1, 2 e 5 $\rightarrow \text{Supporto}(\{\text{latte, pane}\}) = 3/5 = \mathbf{60\%}$ .
Generazione della Regola di Associazione e Calcolo della Confidenza
Poiché il supporto di $\{\text{latte, pane}\}$ è elevato, l’algoritmo valuta la regola $\text{Latte} \Rightarrow \text{Pane}$ : su $4$ transazioni che contengono il latte, ben $3$ contengono anche il pane. $\text{Confidenza}(\text{Latte} \Rightarrow \text{Pane}) = \frac{\text{Transazioni con } \{\text{Latte, Pane}\}}{\text{Transazioni con } \{\text{Latte}\}} = \frac{3}{4} = \mathbf{75\%}$ Decisione operativa: il supermercato posiziona il latte vicino al pane (o il sito e-commerce propone immediatamente il pantalone a chi ha appena visualizzato una camicia).

6. Deep Learning, GAN, Ensemble, Federated e Reinforcement Learning

Deep Learning e Reti Neurali Profonde

Le Reti Neurali Artificiali si ispirano al funzionamento biologico del cervello umano, in cui i neuroni si collegano tramite sinapsi trasmettendo impulsi elettrici:

Struttura del Neurone Artificiale e Funzioni di Attivazione: ogni neurone è un nodo che riceve gli input ( $x_i$ ) dai neuroni dello strato precedente, li moltiplica per i pesi adattivi ( $w_i$ ) associati ai collegamenti sinaptici, ne calcola la combinazione lineare e vi applica una funzione di attivazione non lineare (es. funzione a Gradino, Sigmoide o ReLU).
Nota fondamentale: se non venisse applicata una funzione di attivazione non lineare ad ogni passaggio di strato, l’intera rete neurale collasserebbe matematicamente in una semplice serie di regressioni lineari.
Architettura a Strati e Feature Learning Automatico:
1. Input Layer: riceve i dati grezzi in ingresso;
2. Hidden Layers (Strati Nascosti): nel Deep Learning (Apprendimento Profondo) sono presenti decine o centinaia di strati intermedi in cascata. I primi strati estraggono caratteristiche basilari (es. in un’immagine: i colori e i contorni/bordi), gli strati intermedi individuano forme strutturate (es. occhi, naso) e gli strati profondi ricostruiscono concetti astratti completi (es. l’identità del volto), eliminando la necessità di feature engineering manuale;
3. Output Layer: restituisce la classificazione o predizione finale.
Backpropagation, Vanishing Gradient e Hardware GPU/TPU: la rete impara aggiornando iterativamente i pesi tramite la retropropagazione dell’errore (Backpropagation) (con il rischio tecnico della scomparsa del gradiente o vanishing gradient nelle reti estremamente profonde). Poiché l’esplorazione di tutti i rami neurali richiede un calcolo parallelo massivo su miliardi di parametri, le normali CPU risultano inefficienti ed è indispensabile impiegare GPU (Graphics Processing Units, es. schede NVIDIA dotate di memoria VRAM) o TPU.

Architetture Neurali Avanzate: Generative Adversarial Networks (GAN)

Le GAN (Reti Generative Avversarie) sono architetture di Deep Learning progettate per generare contenuti nuovi e iperrealistici (immagini, volti umani inesistenti, file audio/musicali, video, testi o codice) attraverso un gioco a somma zero tra due reti neurali “avversarie”:

Il Generatore $G(z)$ : a partire dai dati di addestramento, impara a creare nuovi dati sintetici artificiali cercando di imitare la distribuzione dei dati reali.
Il Discriminatore $D(x)$ : riceve in ingresso sia dati reali sia dati creati dal Generatore e cerca di distinguere il vero dal falso, scartando i contenuti che appaiono artificiali.
Miglioramento Reciproco: il feedback sugli elementi scartati ritorna in retropropagazione al Generatore, che affina progressivamente la propria produzione fino a generare output praticamente indistinguibili dalla realtà. Oltre alla generazione multimediale, le GAN rivestono un ruolo cruciale per la conformità GDPR, poiché permettono di creare dataset sintetici anonimi esenti dai vincoli sui dati personali.

Ensemble Learning: Bagging, Boosting e Stacking

L’Ensemble Learning combina più modelli di Machine Learning in parallelo o in sequenza per sfruttare la diversità di più “punti di vista”, riducendo l’overfitting e ottenendo previsioni più robuste. Si distingue in tre paradigmi in base a come vengono fuse le risposte dei singoli modelli:

1. Bagging

Votazione paritaria a maggioranza.
Crea un insieme di classificatori indipendenti aventi tutti la stessa importanza (es. Random Forest). All’atto della classificazione, ciascun modello esprime un voto e l’output finale è la classe che ottiene la maggioranza (es. 6 modelli su 10).

2. Boosting

Votazione pesata sull’accuratezza.
A differenza del Bagging, ogni classificatore influisce sulla decisione finale con un peso specifico calcolato in base al tasso di errore commesso in fase di addestramento: i modelli che sbagliano meno ricevono un peso maggiore nella media pesata finale.

3. Stacking

Meta-classificatore di secondo livello.
Anziché limitarsi a una votazione aritmetica, introduce un ulteriore sistema di Intelligenza Artificiale (meta-classificatore) che prende in input le predizioni dei sotto-modelli ed effettua un ulteriore learning per decidere quale combinazione di voti adottare.

Federated Learning e Tecniche Privacy-Preserving

Come addestrare un modello di IA su dati estremamente sensibili (es. dati sanitari ospedalieri o digitazioni sulle tastiere degli smartphone) senza violare il GDPR? La soluzione architetturale d’elezione è il Federated Learning (Apprendimento Federato), esemplificazione perfetta del principio di Privacy by Design:

Inizializzazione Globale: il server centrale distribuisce una copia iniziale del modello ai vari dispositivi periferici (smartphone, sensori IoT, nodi ospedalieri).
Addestramento Locale: ogni dispositivo addestra il modello esclusivamente in locale utilizzando i propri dati residenti, senza mai trasferire i dati grezzi verso l’esterno.
Aggregazione dei Parametri (FedAvg — Federated Averaging): i dispositivi inviano al server centrale unicamente i parametri e i gradienti calcolati; il server centrale li fonde matematicamente per aggiornare il modello globale.

Per blindare ulteriormente il processo contro attacchi avanzati — come gli attacchi Byzantine (invio di aggiornamenti falsi per avvelenare il modello) o di Gradient Inversion (tentativo di ricostruire i dati di input a partire dai gradienti trasmessi) — il Federated Learning viene spesso abbinato alla Differential Privacy (DP) (iniezione di rumore casuale calibrato) e alla Secure Multi-Party Computation (SMPC) (calcolo distribuito su dati cifrati).

Confronto Sistematico: Federated Learning vs. Apprendimento Tradizionale

Caratteristica	Federated Learning (Apprendimento Federato)	Apprendimento Tradizionale Centralizzato
Posizione dei Dati	Rimangono sui dispositivi locali degli utenti (nessun trasferimento di dati personali).	Centralizzati in un unico server (richiede l’invio di tutti i dati grezzi).
Tutela della Privacy (GDPR)	Alta (Privacy by Design nativa, minimizzazione dei dati ex Art. 5 GDPR e abbattimento del rischio di data breach massivi).	Media / Bassa (esposta a rischi di data breach centralizzati e vincoli di legittimità del trasferimento).
Efficienza di Comunicazione	Moderata (dipende dalla stabilità e dalla banda del canale di rete tra i molteplici dispositivi).	Alta una volta che i dati grezzi sono stati spostati sul server centrale.
Eterogeneità dei Dati	Supportata nativamente (ogni dispositivo elabora i propri dati già internamente coerenti).	Richiede normalizzazione centralizzata (conversione di formati e unità di misura differenti, es. pollici vs. metri).
Scalabilità Computazionale	Elevata (sfrutta la potenza di calcolo distribuita di migliaia di dispositivi periferici).	Limitata (dipende interamente dalla capacità hardware del server centrale).

Apprendimento per Rinforzo (Reinforcement Learning) e Q-Learning

L’Apprendimento per Rinforzo (di cui l’algoritmo Q-Learning è il capostipite) è il paradigma tipico della robotica, dei veicoli a guida autonoma, dei videogiochi e del trading algoritmico:

Ciclo Agent-Environment: l’agente osserva lo Stato $S$ dell’ambiente attraverso i sensori e compie un’Azione $A$ in base a una strategia (Policy). L’ambiente passa a un Nuovo Stato $S'$ e restituisce all’agente un segnale di Ricompensa $R$ (Reward positivo o penalità negativa, spesso dilazionato nel tempo rispetto alla singola mossa). L’obiettivo dell’agente è apprendere la strategia ottimale che massimizza la ricompensa cumulativa attesa nel tempo.
Profili di Responsabilità Giuridica: poiché questi sistemi compiono azioni fisiche nel mondo reale (es. un’auto a guida autonoma che interpreta la segnaletica e frena davanti a un ostacolo), assumono rilievo centrale i profili di responsabilità civile e penale per eventuali danni causati dalle decisioni autonome dell’agente, responsabilità che nel nostro ordinamento resta sempre imputabile a un soggetto umano.

7. Explainable AI (XAI), Bias, Fairness, Dati Sintetici e Pipeline NLP

Poiché gli algoritmi di Machine Learning generano autonomamente le proprie regole interne in base ai dati, chi progetta il sistema spesso non sa spiegare quale specifico criterio abbia determinato un certo output. Ciò entra in frizione diretta con l’Art. 22 del GDPR, il quale sancisce due principi cardine:

Il diritto di ogni cittadino a non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici o incida significativamente sulla sua persona (da cui deriva l’obbligo che l’IA sia solo un supporto alla decisione umana del medico, del giudice o del dirigente pubblico).
Il diritto dell’interessato di conoscere la logica utilizzata dall’algoritmo.

Un celebre precedente italiano citato a lezione riguarda il software adottato alcuni anni fa dal Ministero dell’Istruzione per assegnare automaticamente le sedi di servizio ai docenti vincitori di concorso. Molti insegnanti si videro trasferiti in modo apparentemente illogico da un capo all’altro d’Italia (es. docenti siciliani inviati al Nord mentre docenti trentini venivano assegnati in Sicilia) e presentarono ricorso al giudice amministrativo.

Quando il giudice chiese all’Amministrazione di esplicitare il criterio logico in base al quale l’algoritmo aveva disposto quelle assegnazioni, il Ministero non fu in grado di spiegarlo. Il giudice accolse quindi il ricorso annullando le assegnazioni per difetto di trasparenza, conoscibilità e motivazione dell’atto amministrativo.

Interpretabilità vs. Spiegabilità e Modelli Transparent Box vs. Black Box

Interpretabilità: concetto più superficiale, consistente nella capacità di osservare a quale input il sistema associa quale output individuando la causa matematica diretta.
Spiegabilità (Explainability): concetto molto più profondo e complesso, che richiede di comprendere esattamente il funzionamento interno del sistema e di tradurlo in termini intelligibili per un essere umano non esperto.
Transparent Box Design (White Box): modelli interpretabili by design per la loro stessa struttura (es. i Decision Trees), che garantiscono piena motivazione degli atti ma pagano in termini di minore accuratezza predittiva.
Black Box Explanation (Tecniche Post-Hoc): nei modelli opachi ad alta complessità (es. reti neurali profonde), per comprendere in base a quali parametri il modello decide si ricorre a tecniche di ispezione esterna basate sulla perturbazione controllata dell’input:
- Sensitivity Analysis: si modifica una singola caratteristica di input alla volta mantenendo fisse tutte le altre (es. a parità di curriculum vitae, si cambia solo l’attributo Sesso da Maschio a Femmina) e si osserva come varia l’output per smascherare eventuali discriminazioni;
- LIME: approssimazione lineare locale del comportamento del modello;
- SHAP: calcolo del valore di Shapley (derivato dalla teoria dei giochi) per quantificare il contributo marginale di ciascuna feature sulla predizione finale.
I 4 Principi del NISTIR 8312 sulla XAI:
1. Spiegazione: il sistema deve fornire prove o ragioni a supporto di ogni output;
2. Significativo: la spiegazione deve essere comprensibile e adattata al pubblico destinatario;
3. Accuratezza della Spiegazione: la spiegazione deve riflettere fedelmente e veridicamente il reale processo interno del sistema;
4. Limiti della Conoscenza: il sistema deve operare solo nelle condizioni per cui è stato progettato, dichiarando i propri confini d’uso e il grado di confidenza.

Bias Algoritmico, Algorithmic Fairness e Dati Sintetici

Bias Algoritmico (Errore Sistematico)

Definizione: distorsione sistematica che si verifica sempre nella stessa direzione, causata da pregiudizi storici o da un campionamento non rappresentativo del dataset di addestramento (se una minoranza rappresenta l’1% della popolazione e si campiona a caso, il modello rischia di ignorarla o penalizzarla).
Casi Reali: software di recruiting per posizioni IT che scartavano sistematicamente le candidate donne; algoritmi statunitensi di risk assessment penale che attribuivano pene più severe alle minoranze etniche.

Algorithmic Fairness (Equità Algoritmica)

Formalismo Matematico: disciplina che traduce i principi etici e giuridici di equità e non discriminazione in vincoli matematici per gli algoritmi.
Metriche di Equità: utilizzo di indicatori quali Demographic Parity ed Equalized Odds.
Obbligo di Correzione: l’EU AI Act impone di testare i modelli ad alto rischio su dataset opportunamente bilanciati e rappresentativi (es. ricostruendo il training set con il 50% di uomini e il 50% di donne) per eliminare le distorsioni.

Dati Sintetici (Gartner 2030)

Definizione: dati fittizi generati artificialmente (tramite GAN o campionamento statistico di dati reali) che preservano esattamente la stessa distribuzione e le proprietà statistiche della realtà, ma non afferiscono ad alcuna persona fisica esistente.
Doppio Vantaggio:
1. Piena conformità GDPR: non essendo dati personali, non richiedono consenso né sottostanno ai vincoli sulla privacy;
2. Volume e Bilanciamento: permettono di addestrare modelli quando i dati reali sono insufficienti o per simulare scenari rari e bilanciare classi sottorappresentate.

Pipeline delle 6 Fasi del Natural Language Processing (NLP)

Per comprendere come un sistema di Intelligenza Artificiale riesca a interpretare il linguaggio umano superandone le ambiguità, l’elaborazione del linguaggio naturale (NLP) segue una pipeline sequenziale strutturata in 6 fasi:

Tokenization (Tokenizzazione)
Scomposizione del testo grezzo in unità elementari di base chiamate token (singole parole, segni di punteggiatura, frasi), gestendo correttamente spazi, punti e abbreviazioni.
PoS Tagging (Part-of-Speech Tagging — Analisi Morfologica e Lessicale)
Assegnazione a ciascun token della rispettiva categoria grammaticale (nome, verbo, aggettivo, pronome), risolvendo le prime ambiguità lessicali locali.
Parsing Sintattico & Parse Tree
Individuazione della struttura grammaticale della frase e costruzione dell’albero di analisi sintattica (Parse Tree) che lega soggetto, verbo e complementi.
Named Entity Recognition (NER)
Estrazione e classificazione dal testo destrutturato delle entità appartenenti al mondo reale: Persone, Luoghi geografici, Organizzazioni/Aziende e Date.
Analisi Semantica
Comprensione del significato logico complessivo della frase a partire dalle relazioni tra i concetti estratti.
Analisi del Discorso (Pragmatica)
Interpretazione del contesto globale del testo mediante la risoluzione della coreference (individuare a quale entità si riferisce un pronome all’interno del discorso) e delle ellissi (elementi sottintesi).

8. Governance Regolamentare: EU AI Act, Normativa Italiana e Standard Internazionali

Il Regolamento Europeo sull’IA (EU AI Act — Reg. UE 2024/1689)

L’EU AI Act (emanato nel 2024 ed entrato progressivamente in applicazione a partire da agosto 2026) è il primo quadro normativo globale armonizzato sull’Intelligenza Artificiale. Ha la finalità di garantire che i sistemi di IA commercializzati o utilizzati nell’Unione Europea siano sicuri, etici e rispettosi dei diritti fondamentali della Carta di Nizza, adottando un approccio basato sulla classificazione proporzionale del rischio.

Piramide di Classificazione del Rischio — EU AI Act (Reg. UE 2024/1689)

1. RISCHIO INACCETTABILE — Pratiche Vietate

Social Scoring pubblico, manipolazione subliminale, biometria remota real-time

2. RISCHIO ALTO — Requisiti Rigorosi di Conformità

Lavoro, Credito, Sanità, Giustizia, Istruzione (Log, Supervisione Umana, FRIA)

3. RISCHIO LIMITATO — Obblighi di Trasparenza

Chatbot, Generatori di contenuti (GenAI) e Deepfake (etichettatura esplicita)

4. RISCHIO BASSO O MINIMO — Codici di Condotta Volontari

Filtri antispam, videogiochi (esenti da obblighi rigidi)

Adempimenti per l’Alto Rischio, Valutazione FRIA e Sanzioni

Obblighi per i Sistemi ad Alto Rischio

Sicurezza e Robustezza: progettazione e test continuativi su dataset rappresentativi per prevenire malfunzionamenti, bias e attacchi informatici.
Conservazione dei Log: mantenimento dei registri automatici degli eventi operativi lungo l’intero ciclo di vita del sistema per garantire la tracciabilità.
Supervisione Umana (Human-in-the-loop): presidio umano effettivo con il potere reale di verificare, correggere o interrompere l’output algoritmico.

Valutazione d'Impatto (FRIA) vs. DPIA

Finalità della FRIA (Fundamental Rights Impact Assessment): valuta l’impatto del sistema di IA sui diritti fondamentali (dignità, non discriminazione, libertà d’espressione).
Le 5 Fasi Operative: 1. Descrizione del sistema; 2. Mappatura dei diritti coinvolti; 3. Valutazione dei rischi ( $\text{Rischio} = \text{Impatto} \times \text{Probabilità}$ ); 4. Piano di mitigazione; 5. Monitoraggio.
Integrazione con la DPIA: mentre la DPIA (GDPR) tutela i dati personali, la FRIA valuta l’impatto etico, sociale e sui diritti fondamentali dell’algoritmo (spesso redatte in un unico documento integrato).

Governance e Sanzioni Massime

Autorità di Vigilanza: Comitato Europeo per l’IA e AI Office a livello UE; in Italia le autorità nazionali competenti sono AgID (Agenzia per l’Italia Digitale) e ACN (Agenzia per la Cybersicurezza Nazionale).
Sanzioni per Violazioni Gravi: multe fino a 35 milioni di euro o fino al 7% del fatturato annuo globale per l’uso di pratiche vietate o violazione degli obblighi sull’alto rischio.
Sanzioni per Violazioni Minori: multe fino a 15 milioni di euro o fino al 3% del fatturato globale (es. mancato rispetto degli obblighi di trasparenza sul rischio limitato).

Inquadramento Giuridico Italiano: Consiglio di Stato, Legge sull’IA e Strategia PA

L’ordinamento italiano ha affiancato al quadro europeo una solida elaborazione giurisprudenziale e normativa nazionale:

I Principi del Consiglio di Stato (Sentenza n. 7891/2021):
- Trasparenza e Conoscibilità: obbligo di piena conoscibilità a monte del codice sorgente e della logica decisionale dell’algoritmo impiegato dalla Pubblica Amministrazione.
- Accountability e Motivazione: piena imputabilità della decisione finale all’organo amministrativo umano e obbligo di motivazione del provvedimento (in linea con l’Art. 22 GDPR).
- Non Esclusività e Non Discriminazione: necessità imprescindibile del controllo umano (human-in-the-loop) e divieto di discriminazione algoritmica (Cons. 71 GDPR).
La Normativa Nazionale sull’IA (DDL IA / Legge n. 132/2025):
- Ambito Sanitario: divieto assoluto di selezione discriminatoria nell’accesso alle cure; l’IA funge esclusivamente da supporto diagnostico/organizzativo con riserva della decisione finale al medico; agevolazione per l’uso di dati a fini di ricerca scientifica.
- Ambito Lavoro: garanzia di non discriminazione nell’organizzazione del lavoro e nella selezione del personale, a tutela dell’integrità psicofisica del lavoratore.
- Ambito Giustizia: l’impiego dell’IA è circoscritto ai soli compiti istruttori, di ricerca giurisprudenziale e organizzativi, con riserva esclusiva al magistrato di ogni decisione sull’interpretazione della legge, sulla valutazione delle prove e sulla redazione della sentenza.
- Sanzioni Penali e Governance Nazionale: introduzione del reato di illecita diffusione di deepfake che causino un danno ingiusto (reclusione da 1 a 5 anni), circostanze aggravanti penali per i reati commessi mediante l’uso insidioso di sistemi di IA, stanziamento di investimenti (1 miliardo di euro) e riparto di funzioni tra AgID (promozione, linee guida e accreditamento) e ACN (vigilanza, ispezioni e sanzioni).
Strategia Italiana per l’IA nella Pubblica Amministrazione (2024–2026):
- Pilastri Nazionali: costruzione di un’autonomia tecnologica domestica (riducendo la dipendenza da fornitori esteri), omogeneità territoriale per evitare divari tra enti locali e intervento su 4 settori cruciali: Ricerca, Pubblica Amministrazione, Istruzione e Imprese.
- Processi Amministrativi ed E-Procurement: adozione di sistemi automatizzati per la verifica di conformità e legittimità delle bozze di atti amministrativi; definizione di criteri qualificati per AgID e Consip nell’acquisto (e-procurement) di soluzioni IA sicure.
- Formazione e SNA: percorsi obbligatori sulle competenze digitali per dirigenti e funzionari pubblici e istituzione del Dipartimento IA presso la SNA (Scuola Nazionale dell’Amministrazione), affiancati da protocolli statistici per valutare la qualità dei servizi e prevenire i bias cognitivi.

Framework Internazionali di Governance del Rischio IA

Oltre alle norme cogenti, le organizzazioni adottano quattro standard internazionali di riferimento per governare operativamente il ciclo di vita dell’IA:

Framework / Standard	Ente Promotore	Struttura e Funzioni Principali
NIST AI RMF 1.0	NIST (USA)	Mappa i danni alle persone, all’organizzazione e all’ecosistema articolandosi in 4 funzioni core: GOVERN (cultura del rischio), MAP (contestualizzazione), MEASURE (metriche quantitative) e MANAGE (risposta e mitigazione), presidiando validità, sicurezza, trasparenza, spiegabilità, privacy ed equità.
MIT AI Risk Repository	MIT	Database unificato di 43 quadri di rischio classificati secondo una tassonomia causale e 7 domini di rischio: 1. Discriminazione e tossicità; 2. Privacy e sicurezza; 3. Disinformazione; 4. Attori malintenzionati e abusi; 5. Interazione uomo-computer; 6. Danni socioeconomici e ambientali; 7. Sicurezza del sistema AI, guasti e limitazioni.
HUDERIA	Consiglio d’Europa	Metodologia socio-tecnica focalizzata sulla tutela di diritti umani, democrazia e stato di diritto, strutturata in 4 fasi: 1. COBRA (analisi del contesto); 2. Coinvolgimento degli Stakeholder; 3. Valutazione degli impatti; 4. Piano di mitigazione iterativo.
ISO/IEC 42001:2023 (AIMS)	ISO / IEC	Primo standard internazionale certificabile per un AI Management System (AIMS). Prevede 39 controlli (Annex A) su politiche, ruoli, risorse, ciclo di vita, dati e terze parti, integrandosi nativamente con ISO 27001 (sicurezza delle informazioni), ISO 27701 (privacy) e ISO 9001 (qualità).

9. Caso di Studio Reale: Progettazione e Compliance di un Sistema IA all’INPS

A conclusione del modulo, analizziamo il caso applicativo reale illustrato a lezione riguardante lo studio di fattibilità e compliance normativa per lo sviluppo di un sistema di Intelligenza Artificiale presso l’INPS dedicato al riconoscimento dell’invalidità civile.

Contesto ed Esigenza Operativa

In seguito alla Riforma della Disabilità (2024), il cittadino presenta un’unica domanda corredata da certificati medici per accedere ai sussidi e alla definizione di un “progetto di vita” personalizzato. I medici dell’INPS devono analizzare la documentazione clinica e associare a ciascun paziente i corretti codici ICD (la codifica standard europea che classifica migliaia di patologie e invalidità).

Per agevolare il lavoro medico, si è ipotizzato un sistema di IA che legga i certificati caricati ed estragga automaticamente la proposta dei codici ICD pertinenti.

Prima ancora di scrivere una sola riga di codice o avviare lo sviluppo software, un progetto di questo tipo (che incide sulla salute e sui diritti previdenziali trattando dati particolari ad altissima criticità) richiede uno studio preliminare di fattibilità di diversi mesi che integra FRIA e DPIA:

Supervisione Umana (Human-in-the-loop) e Rischio di Eccesso di Fiducia
In conformità all’Art. 22 GDPR, all’EU AI Act e alla Legge 132/2025, il sistema non decide mai al posto del medico: si limita a proporre i codici ICD, affiancandovi la percentuale di affidabilità della stima (es. 99% per casi chiari, bassa per certificati ambigui) e il riferimento esplicito alle fonti e linee guida mediche utilizzate. Il medico deve confermare o correggere la proposta.
Mitigazione del rischio: occorre prevenire il rischio che il medico si fidi passivamente dell’algoritmo (soprattutto in presenza di possibili bias che porterebbero ad attribuire un codice errato, ledendo il diritto del cittadino alla prestazione corretta).
Addestramento del Modello: Anonimizzazione e Dati Sintetici
Poiché i certificati sanitari contengono dati particolari soggetti a tutela rigorosa, non possono essere usati liberamente in chiaro per addestrare il modello. Le due misure di mitigazione adottate sono:
- Anonimizzazione preventiva delle banche dati interne se il volume di casi storici è sufficiente;
- Generazione di Dati Sintetici (campionati sulla distribuzione reale delle patologie) qualora per determinate malattie rare non vi sia un volume sufficiente di certificati reali.
Scelta dell’Infrastruttura (On-Premise vs. Cloud di Terze Parti)
Anche se in fase di training si usano dati anonimi o sintetici, in fase di esercizio il sistema riceverà i veri certificati medici dei cittadini. Utilizzare un motore IA in Cloud di terze parti comporterebbe l’invio di dati sanitari all’esterno, ponendo gravissimi rischi di sicurezza e sovranità del dato; da qui la scelta strategica dell’ente di puntare su infrastrutture e schede GPU interne (on-premise).
Trasparenza verso il Cittadino
In ossequio alla sentenza del Consiglio di Stato (2021) e all’AI Act, il cittadino deve essere informato con chiarezza che la proposta preliminare dei codici diagnostici è stata elaborata con il supporto di un sistema di Intelligenza Artificiale.
Valutazione di Acquisizione: Riuso, Open Source, Make or Buy
Nelle Pubbliche Amministrazioni (secondo le linee guida del Codice dell’Amministrazione Digitale), la scelta di come realizzare il software segue un ordine preciso di valutazione:
- Riuso: verificare anzitutto se nel catalogo del riuso della PA esiste già un software (con codice sorgente di proprietà pubblica) realizzato da un’altra amministrazione;
- Open Source: valutare l’adozione e personalizzazione di soluzioni open source;
- Buy vs. Make: valutare se acquistare un prodotto già pronto sul mercato (Buy, “abito confezionato”, adatto a funzioni standard come l’anagrafe comunale) oppure sviluppare una soluzione su misura (Make, “abito sartoriale”, commissionato a software house esterne o sviluppato internamente, indispensabile per processi unici come l’accertamento dell’invalidità civile INPS).