Pubblicata nel dicembre 2023, la ISO/IEC 42001 è il primo standard internazionale certificabile dedicato alla gestione dell’intelligenza artificiale. Non impone architetture tecniche né soglie di prestazione: chiede alle organizzazioni di dimostrare che le decisioni sull’IA vengono prese da qualcuno, secondo criteri espliciti, e che di quelle decisioni resta traccia.

Occorre però tenere ben presente che la certificazione ISO 42001 non garantisce la conformità dei sistemi di IA realizzati dall’organizzazione allo scopo di ottenere la conformità degli stessi all’AI Act, in quanto trattasi di una norma per la certificazione di un sistema di gestione (Accreditamento ISO 17021) e non di una norma per la certificazione di prodotto, processo o servizio (accreditamento ISO 17065

Perché una norma sull’IA, e perché proprio adesso

Il motivo per cui questa norma serviva è evidente a chiunque abbia provato a inserire un progetto di machine learning nei processi di controllo aziendali esistenti: gli strumenti tradizionali non bastano. Un sistema di IA dipende dai dati in modo strutturale; il suo comportamento può degradare nel tempo senza che nessuno abbia toccato una riga di codice; le sue logiche sono poco ispezionabili anche da chi le ha costruite; i suoi effetti ricadono su persone prive di qualsiasi rapporto contrattuale con l’organizzazione. Nessuna di queste caratteristiche trova risposta nelle procedure di qualità o di sicurezza pensate per processi deterministici.

La norma nasce nel comitato ISO/IEC JTC 1/SC 42 e adotta la High Level Structure, l’impianto di clausole condiviso da ISO 9001, ISO/IEC 27001 e dagli altri standard di management system. La scelta è tutt’altro che formale: un’organizzazione già certificata non deve costruire un apparato parallelo, ma può estendere quello che possiede. Commentiamo di seguito il contenuto delle clausole seguendo quella struttura, per chiarire cosa la norma effettivamente chieda a una direzione aziendale.

Le sezioni preliminari: a chi si applica e con quale vocabolario

Le prime tre clausole delimitano il terreno. Il campo di applicazione è esteso a qualsiasi organizzazione che sviluppi, fornisca o semplicemente utilizzi sistemi di IA, senza distinzioni di settore o dimensione — scelta coerente con una filiera in cui chi addestra un modello, chi lo incorpora in un prodotto e chi lo mette davanti agli utenti sono quasi sempre soggetti diversi. Un punto genera frequenti fraintendimenti e va chiarito subito: la norma non certifica il sistema di IA, ma il sistema di gestione che lo governa. Il riferimento normativo è unico, la ISO/IEC 22989 sui concetti e la terminologia dell’IA, e la clausola sulle definizioni aggiunge una ventina di termini propri: tra questi, la valutazione d’impatto del sistema di IA e la dichiarazione di applicabilità individuano i documenti attorno a cui ruota buona parte dell’implementazione pratica.

Sezione 4 — Contesto dell’organizzazione

L’analisi del contesto presenta qui un elemento originale rispetto alle altre norme HLS: una tassonomia esplicita dei ruoli lungo la catena del valore — fornitore, produttore, cliente, partner, soggetto impattato, autorità competente. Chiedersi quale di queste posizioni si occupa, e spesso se ne occupano diverse a seconda del sistema considerato, è l’esercizio che determina la reale ampiezza degli obblighi.

Segue l’identificazione delle parti interessate, dove la norma si discosta dalla tradizione dei management system: tra gli stakeholder rilevanti compaiono i soggetti che subiscono gli effetti delle decisioni automatizzate pur non essendo clienti né utenti — il candidato scartato da uno screening, il richiedente credito valutato da un modello, il cittadino profilato da un servizio pubblico. Una categoria priva di voce contrattuale, che nessun processo commerciale intercetta spontaneamente.

La determinazione del campo di applicazione diventa così la decisione più delicata della fase iniziale: un perimetro ristretto lascia scoperte aree di rischio reale, uno troppo generoso produce un sistema che nessuno riesce a mantenere. La norma non offre scorciatoie e rimette la scelta alla responsabilità dell’organizzazione.

Sezione 5 — Leadership

Qui la norma è più esigente di quanto la formulazione lasci intuire. Non chiede semplicemente che l’alta direzione approvi una politica: chiede che gli obiettivi in materia di IA siano allineati alla direzione strategica dell’impresa, che i requisiti del sistema di gestione siano integrati nei processi di business ordinari e — passaggio decisivo — che l’alta direzione risponda delle prestazioni del sistema all’organo di governo. Quest’ultima previsione porta la governance dell’IA al livello del Consiglio di Amministrazione, in continuità con la direzione presa dal Regolamento Europeo sull’IA e con le aspettative in materia di rendicontazione ESG. Per molte organizzazioni è il vero salto culturale richiesto: l’IA smette di essere un tema tecnico delegato a una funzione e diventa materia di responsabilità apicale.

Merita un’osservazione la clausola su ruoli e responsabilità. La natura trasversale dei progetti di IA, che coinvolgono simultaneamente funzioni tecniche, legali, di prodotto e di compliance, favorisce una dispersione della titolarità in cui ciascuna funzione presume che il presidio spetti a un’altra. Richiedere che le responsabilità siano assegnate, comunicate e comprese è la risposta della norma a questa dinamica ricorrente.

Sezione 6 — Pianificazione

È la clausola di maggiore densità operativa, e articola tre processi distinti che conviene tenere separati.

Il primo è la valutazione del rischio, condotta secondo la logica consueta di identificazione, analisi e ponderazione rispetto a criteri di accettazione definiti in anticipo. La specificità sta nelle sorgenti, che nell’IA si collocano in punti inconsueti — provenienza e qualità dei dati di addestramento, opacità del modello, deriva delle prestazioni, possibilità di usi impropri, effetti sui diritti delle persone. La norma rinvia a un allegato informativo che ne propone una tassonomia ragionata.

Il secondo è il trattamento del rischio, che si conclude con la dichiarazione di applicabilità secondo un meccanismo familiare a chi conosce la ISO/IEC 27001: si passa in rassegna l’elenco dei controlli di riferimento, si stabilisce quali siano pertinenti al proprio profilo di rischio, si motiva ogni esclusione. Non è richiesta l’implementazione integrale, ma una scelta consapevole e argomentata. Il documento che ne risulta è la carta d’identità del sistema di gestione e il primo artefatto che un organismo di certificazione esaminerà.

Il terzo processo è quello genuinamente nuovo: la valutazione d’impatto del sistema di IA, priva di equivalenti nelle altre norme della famiglia. La differenza rispetto alla valutazione del rischio è di prospettiva e va compresa bene per non duplicare il lavoro — l’analisi del rischio guarda a ciò che può danneggiare l’organizzazione e i suoi obiettivi, la valutazione d’impatto a ciò che il sistema può produrre su individui, gruppi, comunità e ambiente. Il parallelo naturale è con la valutazione d’impatto sulla protezione dei dati prevista dal GDPR, con un perimetro però più ampio, che eccede la riservatezza per abbracciare le dimensioni sociale, etica e ambientale.

Completano la clausola la definizione di obiettivi misurabili e la pianificazione strutturata delle modifiche al sistema. Sugli obiettivi vale la raccomandazione consueta: enunciati generici sull’uso responsabile dell’IA non superano un audit, traguardi verificabili con scadenze e responsabili assegnati sì.

Sezione 7 — Supporto

La clausola raccoglie i fattori abilitanti: risorse, competenze, consapevolezza, comunicazione e informazioni documentate. Sul fronte delle competenze emerge una difficoltà che le direzioni conoscono bene, perché il profilo richiesto non è quello del data scientist puro — serve la capacità di illustrare il funzionamento di un sistema a interlocutori non tecnici, di valutarne gli effetti su popolazioni vulnerabili, di orientarsi tra vincoli normativi in movimento. Competenze ibride, scarse sul mercato e difficili da costruire rapidamente all’interno.

Anche la documentazione assume qui un valore diverso dal consueto adempimento formale: poter ricostruire con quali dati un modello è stato addestrato, quali validazioni ha superato e chi ne ha autorizzato il rilascio non è burocrazia, è la precondizione tecnica dell’accountability. Senza quella tracciabilità, qualsiasi affermazione sulla responsabilità dei propri sistemi resta indimostrabile.

Sezione 8 — Attività operative

La clausola operativa presenta una struttura speculare a quella della clausola 6: valutazione del rischio, trattamento del rischio e valutazione d’impatto ricompaiono nella loro dimensione esecutiva. La ripetizione non è ridondanza redazionale ma un’indicazione precisa — queste attività non si esauriscono nella progettazione iniziale, vanno ripetute a intervalli definiti e a ogni cambiamento significativo. Il controllo operativo copre l’intero ciclo di vita: raccolta e preparazione dei dati, scelta dell’impianto del modello, addestramento, validazione, rilascio, monitoraggio, aggiornamento.

Il contributo più maturo della norma riguarda però la collocazione temporale della valutazione d’impatto, che va incorporata nelle fasi di progettazione e sviluppo anziché condotta a valle su un sistema già operativo. È la traduzione in requisito verificabile del principio di responsible AI by design, fino a questo standard rimasto per lo più un’affermazione di intenti nei documenti programmatici.

Sezione 9 — Valutazione delle prestazioni

Monitoraggio, audit interno e riesame della direzione seguono lo schema noto, con una precisazione che orienta l’impostazione delle metriche: la misurazione si sviluppa su due piani da non confondere, le prestazioni tecniche dei sistemi — accuratezza, distorsioni, deriva, latenza — e l’efficacia del sistema di gestione nel suo insieme. Un cruscotto ricco di indicatori del primo tipo non dice nulla sul secondo, e la conformità si gioca su entrambi.

Sull’audit interno vale un avvertimento pratico: un auditor esperto di management system ma estraneo al dominio dell’IA difficilmente saprà valutare l’adeguatezza dei processi di validazione di un modello o la coerenza tra rischi dichiarati ed effettivi. La composizione del gruppo di audit richiede quindi attenzione superiore al consueto e per molte organizzazioni comporterà il ricorso a competenze esterne, almeno nei primi cicli.

Sezione 10 — Miglioramento

Il miglioramento continuo e la gestione delle non conformità chiudono il ciclo PDCA. In un dominio dove tecnologie, quadro regolatorio e aspettative sociali si modificano nell’arco di mesi, questa clausola pesa più che altrove: un sistema di gestione dell’IA progettato oggi e lasciato immutato per tre anni sarà con ogni probabilità disallineato rispetto ai rischi reali. Il suo valore non sta tanto nell’obbligo di correggere gli scostamenti quanto nella richiesta implicita di una capacità di adattamento istituzionale.

Gli allegati: dove la norma diventa operativa

Chi si limita a leggere le clausole ricava un’impressione parziale dello standard, perché il contenuto sostanziale risiede negli allegati. Il primo dei due normativi raccoglie i controlli di riferimento in nove domini — politiche, responsabilità interne, risorse e ciclo di vita, valutazione d’impatto, coinvolgimento delle parti interessate, effetti sui soggetti dell’IA, processi, controlli tecnici, terze parti — ed è l’elenco su cui si esercita la dichiarazione di applicabilità. Il secondo accompagna ciascun controllo con finalità e indicazioni attuative: se il primo definisce il cosa, questo affronta il come. Seguono due allegati informativi, di cui il primo mette in relazione gli obiettivi che motivano l’adozione dell’IA — accountability, equità, riservatezza, affidabilità, robustezza, sicurezza, trasparenza — con le sorgenti di rischio che possono comprometterli.

L’ultimo allegato affronta l’integrazione con gli altri standard di management system, tema con ricadute dirette sui costi di implementazione. La sovrapposizione con la ISO/IEC 27001 è ampia, al punto che un’organizzazione già certificata sulla sicurezza delle informazioni parte con un vantaggio considerevole; analoga considerazione vale per chi dispone di un sistema privacy allineato alla ISO/IEC 27701. Con la ISO 9001 la corrispondenza riguarda soprattutto pianificazione operativa, monitoraggio e miglioramento. In tutti questi casi la scelta ragionevole è estendere il sistema esistente, non costruirne uno nuovo accanto.

Un giudizio d’insieme

La ISO/IEC 42001 arriva mentre le organizzazioni sono strette tra un quadro regolatorio in via di definizione — il Regolamento Europeo sull’IA in primo luogo — e aspettative di mercato che chiedono garanzie difficili da fornire in modo credibile. Offre qualcosa che i framework etici pubblicati negli anni precedenti non erano riusciti a dare: un impianto verificabile da un terzo indipendente e abbastanza concreto da tradursi in pratiche operative anziché in dichiarazioni di principio. La sua qualità risiede nell’equilibrio tra la struttura armonizzata, che la rende innestabile sul patrimonio di sistemi di gestione esistente, e la specificità dei controlli, che la ancora ai problemi reali dell’IA.

L’implementazione richiede un impegno serio — mappatura dei sistemi in uso, analisi del contesto, valutazioni di rischio e di impatto, competenze spesso assenti internamente — a fronte di ritorni che si collocano su tre piani: contenimento dell’esposizione legale e reputazionale, credibilità verso clienti, partner e autorità, differenziazione competitiva in un mercato dove la fiducia sta diventando criterio di selezione. Anche per chi non intende perseguire la certificazione formale, adottarne l’impianto resta un modo efficace per mettere ordine in un ambito che, lasciato a sé stesso, tende a governarsi da solo.

Riferimenti

• ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system, ISO/IEC, Ginevra, prima edizione, dicembre 2023.
• ISO/IEC 22989:2022 — Artificial intelligence concepts and terminology, ISO/IEC, Ginevra, 2022.
• ISO/IEC 27001:2022 — Information security management systems — Requirements, ISO/IEC, Ginevra, 2022.
• ISO/IEC 27701:2019 — Extension to ISO/IEC 27001 and ISO/IEC 27002 for privacy information management, ISO/IEC, Ginevra, 2019.
• ISO 9001:2015 — Quality management systems — Requirements, ISO, Ginevra, 2015.
• Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio sull’intelligenza artificiale (AI Act), GUUE, luglio 2