Quando il rischio dell’AI diventa valoriale

Questo articolo è stato originariamente pubblicato su MIT Technology Review Italia il 27 luglio 2026 (solo in italiano).

Dai bias algoritmici alla tutela dei diritti: un nuovo modello quantitativo per governare gli impatti intangibili dell’intelligenza artificiale.

Negli ultimi tempi abbiamo assistito a un’accelerazione senza precedenti nell’uso di soluzioni di Intelligenza Artificiale (IA) in ogni settore del mercato. Questa corsa all’IA viene spesso raccontata come un capitolo dell’evoluzione digitale, una transizione lineare simile a quella vissuta con l’avvento del cloud. Si tratta, tuttavia, di un’illusione ottica.

L’adozione di massa dell’IA non rappresenta un semplice salto di scala tecnologico, ma una discontinuità paradigmatica che mette in crisi i pilastri stessi della quantificazione del rischio.

Il cambio di paradigma: dal rischio tangibile al rischio valoriale

Fino ad oggi, la gestione del rischio ha operato su basi prevalentemente ingegneristiche e probabilistiche, focalizzandosi sulla tangibilità del danno. Il ragionamento è semplice: un macchinario industriale può subire un guasto che può provocare un danno,  con che probabilità? Di che entità? L’impatto è visibile, localizzato, e spesso economicamente quantificabile.

Con l’avvento dell’Intelligenza Artificiale, il paradigma cambia radicalmente. Il rischio si smaterializza, migrando dalla sfera fisica a quella deontologica: il rischio diventa valoriale. Il danno non si manifesta necessariamente con un impatto fisico ma, piuttosto, può toccare i principi giuridici, morali e costituzionali su cui si fondano le nostre società.

La fenomenologia dei rischi intangibili

La metamorfosi del rischio è già una realtà già osservabile in alcuni processi di adozione dell’IA, dove l’efficienza di analisi e calcolo fornite dalla matematica dell’IA entra in conflitto con i diritti civili. Alcuni esempi riguardano gli algoritmi predittivi impiegati per lo screening del personale, la valutazione del merito creditizio o la stipula di polizze assicurative. L’uso dell’IA non produce danni fisici visibili; eppure, se l’addestramento dell’algoritmo avviene su dati storici parziali o viziati, può accadere che vengano esclusi sistematicamente candidati sulla base dell’etnia o del genere, violando il diritto alla non-discriminazione e alla dignità personale.

Ancora, l’automazione di sistemi volti a individuare frodi fiscali o previdenziali possono etichettare erroneamente come “fraudolente” migliaia di famiglie vulnerabili, basandosi su variabili proxy ingannevoli. In questo scenario, l’errore dell’algoritmo di IA viola il diritto a una buona amministrazione, all’assistenza sociale e alla presunzione di innocenza.

Ogni giorno interagiamo con sistemi di raccomandazione dei social media e modelli di IA generativa per un unico scopo: massimizzare il coinvolgimento (engagement). Il prezzo nascosto di questa ottimizzazione è la polarizzazione del dibattito pubblico e la proliferazione di deepfakes capaci di distorcere la percezione stessa della realtà, minando il pluralismo informativo e l’autonomia cognitiva e di pensiero delle persone.

Persino l’ambito sanitario, dove l’IA esprime un grande potenziale umanitario, non è immune da conflitti valoriali. Un software capace di identificare i tumori con un’accuratezza globale del 99% rappresenta un progresso straordinario. Ma cosa accadrebbe se quel restante 1% si concentrasse sistematicamente su una minoranza etnica, penalizzata dalla scarsità dei dati storici su di essa? Questo scenario colpisce direttamente il diritto alla tutela della salute e l’uguaglianza davanti alla legge, ponendoci di fronte ad un dilemma etico drammatico: accettare una logica utilitaristica – che massimizza il benessere della maggioranza a discapito di pochi – oppure spegnere l’algoritmo in nome di una giustizia egualitaria che non ammette compromessi sui diritti della persona?

Oltre la superficie: stato dell’arte della normativa europea

Gli scenari descritti rappresentano solo la punta dell’iceberg (legato all’IA), ovvero gli impatti diretti e di primo ordine della transizione tecnologica legata all’IA. Consapevole della profondità di questa sfida, il legislatore europeo ha compreso che la tradizionale tutela della privacy, da sola, non è più sufficiente a coprire lo spettro dei nuovi pericoli.

Per questo motivo, l’Unione Europea ha scelto di inaugurare una nuova stagione regolatoria. Alla classica Valutazione d’Impatto sulla Protezione dei Dati (DPIA), pilastro del GDPR, a partire dal prossimo 2 agosto, si affiancherà lo strumento cardine dell’AI Act: l’obbligo di redigere una Valutazione d’Impatto sui Diritti Fondamentali (FRIA) prevista dall’Art. 27 per specifici sistemi di IA ad alto rischio.

Questo framework spinge a una rigorosa riflessione di carattere strutturale, imponendo di perimetrare e mappare analiticamente l’impiego di IA nei diversi contesti:

• Gli obiettivi: delimitando chiaramente le finalità specifiche dell’uso dell’IA;
• La dimensione temporale: definendo con precisione il periodo d’uso e la sua frequenza;
• I soggetti impattati: identificando la popolazione specificamente coinvolta;
• La gestione del rischio: rilevando le potenziali violazioni dei diritti fondamentali e strutturando le relative misure di mitigazione pianificate.

Se da un lato questo adempimento costituisce un passo avanti cruciale per arginare le derive del rischio valoriale, dall’altro solleva una profonda questione metodologica. Il pericolo è che la conformità normativa si riduca a un puro esercizio statico e burocratico: l’attuale approccio FRIA, infatti, propone linee guida qualitative e prive di criteri standardizzati. Di conseguenza, le valutazioni del rischio risultano instabili, soggettive e difficili da quantificare o confrontare. Sorge, quindi, un dubbio spontaneo: può uno strumento così rigido governare un ecosistema tecnologico che, per sua natura, evolve continuamente?

Oltre la superficie: la necessità di un nuovo sguardo strategico, collettivo e opportuno

La risposta secca è no.

Per evitare che il FRIA si trasformi nell’ennesimo adempimento burocratico, è necessario un salto di qualità strategico. Se la compliance legale ha il merito di indicarci cosa dobbiamo proteggere (i valori), l’ingegneria del rischio deve fornire gli strumenti quantitativi per capire come farlo in modo dinamico, adattativo e opportuno. Solo spingendo l’analisi oltre la pura conformità normativa diventa possibile mappare e governare i rischi di secondo ordine e gli impatti sistemici potentialmente provenienti dall’adozione dell’IA.

Obiettivo di questo articolo è condividere il pensiero che valutare i rischi valoriali non è solo un obbligo etico, ma una stringente necessità strategica per garantire la resilienza a lungo termine delle organizzazioni e del tessuto sociale.

Verso un’ingegneria dei valori: il paradigma HEV

I framework convenzionali per la valutazione del rischio legato all’IA risentono di una strutturale rigidità temporale e contestuale. Al fine di superare tale limite, la metodologia formalizzata da R. Sass, C. Novelli ed E. Zio (Quantifying Values: The Problem of AI Risk) propone una transizione paradigmatica mutuata dall’ingegneria del rischio industriale. Il modello viene opportunamente strutturato attraverso la riconfigurazione del paradigma HEV (Hazard, Exposure, Vulnerability), estendendo le metriche di guasto fisico alle variabili di natura valoriale e socio-tecnica.

Formulazione Matematica
Il rischio associato all’adozione di un sistema di IA, denotato con R_IA, è modellato come una funzione delle tre macro-variabili fondamentali:

• H (Hazard – Pericolo): rappresenta la sorgente intrinseca, latente e potenziale di danno codificata all’interno dell’algoritmo (es. la presenza di un bias nei dati di addestramento);
• E (Exposure – Esposizione): il contesto e la scala di applicazione del sistema (es. quante decisioni o quanti cittadini impatta quotidianamente quel modello).
• V (Vulnerability – Vulnerabilità): esprime la suscettibilità intrinseca del sistema e dei soggetti coinvolti a subire l’impatto negativo derivante dell’algoritmo (es. il potenziale danno in termini di equità o dignità), anche tenendo conto delle contromisure adottate per prevenirlo o mitigarlo.

Le due sfide metodologiche del rischio valoriale

L’introduzione dei principi etici e dei diritti umani all’interno di questa equazione scardina i modelli di calcolo tradizionali, mettendoci di fronte a due sfide concettuali:

1. Il paradosso della misura qualitativa: come si valuta l’equità o la dignità? Se introduciamo una protezione al potenziale danno di equità e dignità, come quantifichiamo il beneficio in termini di rischio residuo per i diritti fondamentali?
2. Lo scontro tra Sicurezza Assoluta e Decisione Razionale: Ci troviamo al centro di un profondo dilemma operativo. Da un lato, l’approccio legale concepisce i diritti fondamentali come valori assoluti e non negoziabili. Dall’altro, l’approccio tecnologico ed economico ragiona in termini di decisione razionale, dove ogni scelta è un compromesso concreto e ottimale tra costi, benefici e utilità prodotta.

Proposta concreta di approccio alla valutazione del rischio

Per affrontare le sfide precedentemente descritte, lo studio “Quantifying Values: The Problem of AI Risk”  propone una metodologia operativa strutturata per formalizzare le linee guida qualitative dell’AI Act in un processo valutativo, articolato nelle fasi sequenziali qui sotto rappresentate:I vantaggi strategici del modello di analisi quantitativa

Adottare il paradigma di analisi HEV non è un esercizio teorico, ma una soluzione pragmatica che offre tre immediate soluzioni per la governance dei sistemi IA:

1. Superamento delle matrici di rischio tradizionali
   Le tradizionali matrici di rischio bidimensionali falliscono se applicate ai diritti umani e relativi valori, poiché adottano scale ordinali a progressione lineare. Il modello proposto permette di valutare la gravità del danno adottando una scala geometrica per valutare l’impatto sui diritti fondamentali. Ciò permette di impedire che danni sistematici ad alto impatto vengano compensati da frequenze di accadimento basse.
2. Valutazione dinamica delle mitigazioni
   Il modello consente di valutare le contromisure adottate introducendo una distinzione fondamentale tra:
   • L’Efficacia: la capacità intrinseca di una misura di mitigare uno specifico pericolo;
   • L’Affidabilità: la probabilità che tale misura mantenga la propria efficacia nel tempo, nonostante variazioni del contesto operativo o cambiamenti nella distribuzione dei dati utilizzati per l’addestramento degli algoritmi di IA (data shift) utilizzati nell’addestramento degli algoritmi AI.
3. Introduzione di metriche sensibili alle “code” degli impatt
   Il vero punto di svolta metodologico consiste nel superamento dell’approccio classico basato sul rischio atteso, il quale genera un effetto di appiattimento dei rischi, operazione che finirebbe per anestetizzare e nascondere gli impatti estremi. Al contrario, metriche quali Conditional Value-at-Risk (CVaR) mutuate dalla matematica finanziaria, permettono di dare il giusto peso strategico a eventi a bassa probabilità ma ad alto impatto valoriali, come una violazione sistematica dei diritti.

L’implementazione del paradigma HEV fornisce ai decisori un’infrastruttura di controllo oggettiva, standardizzata e verificabile. In questo quadro, l’allineamento etico (AI Alignment) cessa di essere un vincolo filosofico astratto ed esogeno, e diventa una variabile di controllo endogena, integrata direttamente nei sistemi di governance aziendale e di risk management.