Questo articolo è stato originariamente pubblicato su ai4business.it il 15 gennaio 2026 (solo in italiano).

L’intelligenza artificiale è uno strumento chiave per l’industria e il business: migliora efficienza, sicurezza e sostenibilità, ma pone sfide di affidabilità, trasparenza e rischio. Tra black box, validazione dei dati e governance, l’AI Act e l’analisi del rischio diventano centrali per un’adozione credibile, responsabile e realmente vantaggiosa nei complessi contesti industriali e nelle decisioni aziendali strategiche.

L’intelligenza artificiale è oggi uno strumento che, se utilizzato in modo appropriato, apre varie opportunità da molteplici prospettive, alcune anche eccezionali. Ad esempio, è stata recentemente utilizzata per risolvere una complessa equazione teorica irrisolta nota come problema del numero di Erdős e per definire un esperimento volto a verificare le mutazioni nelle cellule immunitarie umane.

Opportunità, dati e applicazioni industriali

Perciò, l’IA offre un’ampia possibilità di utilizzo in diversi contesti e per diversi obiettivi, grazie all’abbondanza di dati e informazioni oggi disponibili che possono essere elaborate con l’IA per estrarre conoscenza da impiegare nel marketing, come nella finanza e soprattutto nell’industria, settore specifico di grande rilevanza e in cui l’impatto dell’IA può davvero fare la differenza, anche in termini di sostenibilità.

L’industria può trarre beneficio dall’elaborazione dei dati e delle informazioni per rendere i processi più efficienti, i sistemi e i componenti più affidabili e, di conseguenza, garantire una maggiore sicurezza nel funzionamento e nelle operazioni industriali.

Inoltre, efficienza, affidabilità e sicurezza sono elementi di sostenibilità nell’uso delle risorse e contribuiscono ad evitare incidenti anche con potenziali conseguenze catastrofiche.

L’IA in particolare contribuisce alla sicurezza consentendo la “lettura” dei dati e dei segnali provenienti dai sensori, osservando immagini di termografie, tomografie e fotografie, per estrarre informazioni sullo stato dei componenti, monitorare la situazione del sistema e poterlo controllare in tempo reale, anticipando guasti, risolvendo anomalie di funzionamento in vari contesti industriali.

L’IA permette inoltre di accelerare le simulazioni di scenari incidentali e la gestione in tempo reale delle situazioni di emergenza che possono verificarsi. Tutto ciò facilita una migliore gestione complessiva della sicurezza.

Le sfide dell’IA: credibilità della “scatola nera”

Sebbene il potenziale dell’IA in ambito industriale sia quasi ovvio, la sua adozione sul campo non è semplice. L’IA richiede dati e informazioni che, pur essendo disponibili, devono essere verificati e validati per poter essere poi elaborati in modo adeguato. I progressi e gli algoritmi in questo settore sono eccezionali e per la maggior parte già esistenti, ma presentano una serie di limitazioni che devono essere affrontate.

Per un uso pratico dello strumento IA, è fondamentale poter avere fiducia negli output degli algoritmi. Questi algoritmi nascono come “scatole nere”: non si sa come il modello elabori internamente i dati in ingresso per fornire i dati in uscita che poi vengono utilizzati per guidare le decisioni. Questa opacità del modello preoccupa nei contesti industriali, critici sia per l’efficienza produttiva sia dal punto di vista della sicurezza.

Ad esempio, se un algoritmo IA, leggendo parametri di processo e misure dei sensori su macchinari, suggerisce di spegnere l’impianto a causa di un guasto imminente di un componente critico, l’operatore deve essere certo di assumersi la responsabilità di spegnerlo. È importante che lo spegnimento sia effettivamente necessario, per evitare di interrompere inutilmente la produzione e il servizio. Quindi è fondamentale essere sicuri e fiduciosi nella risposta e nel suggerimento dell’algoritmo, analogamente a quando ci si fida del consiglio di un medico dopo la lettura degli esami clinici.

La credibilità degli output

Oggi, l’obiettivo primario in ambito industriale e aziendale è raggiungere la credibilità degli output degli algoritmi di intelligenza artificiale. La credibilità dei risultati è indispensabile affinché possano essere adottati nelle decisioni su come progettare, gestire e manutenere in modo efficiente i sistemi, e le produzioni in maniera affidabile e sicura.

Per arrivare a questo risultato la ricerca in IA sta facendo grandi sforzi per consentire:

• di verificare e validare i dati utilizzati per l’addestramento degli algoritmi.
• Di garantire la precisione della previsione e dell’output dell’algoritmo.
• Di spiegare perché l’algoritmo fornisce una determinata indicazione sullo stato dei componenti e del processo.

Governance e analisi del rischio: l’AI Act

Per la sua importanza, per il suo potenziale, lo strumento dell’intelligenza artificiale deve essere governato nel suo sviluppo e nel suo utilizzo in modo giusto. In tal senso, l’AI Act deve essere visto come una misura che favorisce il giusto utilizzo dell’IA, senza limitarlo. Quindi, ripeto, l’AI Act è un elemento importante di governance dello sviluppo e dell’utilizzo dell’IA, poiché pone le basi per poter operare e usare lo strumento in modo corretto.

Secondo la mia opinione personale, l’AI Act riveste un ruolo di per sé molto importante, ma la sua trasposizione e applicazione devono essere altrettanto rilevanti nella pratica. Quello che è ancora da sviluppare è un approccio operativo di supporto all’AI Act, specificamente in termini di analisi del rischio. L’IA, infatti, pur portando grandi benefici, comporta anche rischi legati al suo utilizzo.

L’approccio metodologico dell’analisi dei rischi deve supportare la corretta adozione dell’AI Act. Esistono già metodologie di analisi dei rischi sviluppate e utilizzate per impianti e sistemi critici che forniscono servizi e prodotti alla società, e da queste si può attingere.

Come affrontare l’analisi dei rischi

L’analisi dei rischi deve essere affrontata applicazione per applicazione e problema per problema. Sono necessari strumenti qualitativi, semi-qualitativi e, se possibile, quantitativi per esaminare l’impatto dell’IA nello specifico contesto, al di là delle categorie di “rischio” previste dall’AI Act.

È necessario:

• Individuare le diverse tipologie di stakeholder che possono beneficiare o subire l’impatto dello strumento IA e definirne le caratteristiche.
• Comprendere a quali pericoli sono esposti questi gruppi ben categorizzati, e in quale misura, a causa dell’uso dell’IA, dei suoi possibili bias o dei suoi possibili errori.
• Determinare il livello di esposizione dei diversi gruppi potenzialmente esposti (sia per beneficio che per impatto), considerando la loro vulnerabilità e la probabilità di essere soggetti alle conseguenze del pericolo.

L’adozione dell’AI Act, con adeguate strutture di valutazione, deve garantire che, sulla base della conoscenza dell’esposizione ai pericoli, dei livelli di esposizione e delle vulnerabilità degli elementi che possono essere toccati dall’uso dell’IA, tale utilizzo sia limitato o adottato nel modo corretto.

Un impegno in questa direzione è fondamentale affinché l’IA porti davvero grandi opportunità e benefici in tutti i settori industriali e aziendali.