Dopo l'incidente: cosa fanno i consigli di amministrazione quando l'AI sbaglia
Per IBM l'80% dei dirigenti EMEA ha visto un incidente AI arrivare al board. Il dato più utile è quello successivo: tra queste organizzazioni, meno della metà dichiara di aver modificato le regole.
PRIVATE EQUITY & VCAI STRATEGYITALIANODIGITALLEADERSHIP & MANAGEMENT
Dopo l'incidente: cosa fanno i consigli di amministrazione quando l'AI sbaglia
Il 14 ottobre IBM ha pubblicato i risultati di un sondaggio su 3.221 dirigenti senior di imprese con più di mille dipendenti, in otto Paesi: Regno Unito, Francia, Germania, Italia, Spagna, Paesi Bassi, Arabia Saudita ed Emirati Arabi Uniti. L'80% degli intervistati dichiara che nell'ultimo anno un incidente legato all'intelligenza artificiale è arrivato al consiglio di amministrazione o al vertice esecutivo. Per IBM un incidente può essere il guasto di un agente, l'esposizione di dati, una decisione sbagliata presa da un sistema automatico o una violazione di sicurezza.
Il comunicato insiste sull'escalation, ma la cifra che mi sembra più utile sta qualche riga sotto. Tra le organizzazioni in cui l'incidente è arrivato al board o al vertice esecutivo, meno della metà, il 40%, dichiara di aver modificato politiche o quadro di governance in risposta. Il 60% restante, in altre parole, ha ricevuto la notizia e ha lasciato le regole dove erano.
Parto da qui perché la distanza tra venire a sapere e modificare una regola riguarda tutte le imprese che stanno portando l'AI dentro i processi, abbiano o meno un fondo di private equity tra gli azionisti.
Che cosa dice il sondaggio, e che cosa non dice
Prima i numeri. Il 98% degli intervistati dichiara che la responsabilità del rischio AI è assegnata formalmente al livello del board, ma solo il 26% ha un comitato dedicato. Il 75% si aspetta agenti con un certo grado di autonomia decisionale entro il 2027, mentre il 37% ritiene la propria governance progettata per reggerne la crescita. Una quota identica, sempre il 37%, dispone di una quantificazione del rischio finanziario legato alle lacune di governance che sia stata esaminata dal board. Poi i limiti. IBM vende tecnologia e consulenza sulla governance dell'AI e ha un interesse evidente a mostrare che il problema è diffuso. Le risposte sono dichiarate e non verificate, e a rispondere sono singoli dirigenti, non consigli di amministrazione. Il campione esclude le imprese sotto i mille dipendenti, che in Italia sono la quasi totalità del tessuto produttivo. Non risulta una revisione accademica indipendente: la rilevazione è stata condotta da Censuswide per conto di IBM tra il 14 e il 24 settembre, e il comunicato rimanda a un rapporto completo, ma dal materiale che ho consultato non emergono questionario e dati grezzi. Niente di questo rende i numeri inutilizzabili, ne stabilisce però l'uso: sono un indizio sull'ordine di grandezza, non una misura precisa.
Segnalare un incidente non significa governarlo
L'80% si può leggere in due modi opposti. Chi preferisce la lettura ottimistica osserva che i problemi arrivano dove devono arrivare: se un agente sbaglia e il board lo viene a sapere, il sistema di allarme funziona. È una lettura ragionevole. C'è anche un effetto di composizione, perché più sistemi in produzione generano più eventi da riportare, e questo da solo non dice che la governance sia peggiorata.
Il punto delicato sta in ciò che accade dopo. Se un episodio arriva in consiglio e nella maggior parte dei casi nessuna regola cambia, il ciclo si ferma alla presa d'atto. C'è poi una questione di forma, e qui parlo da osservatore, non dai dati del rapporto. Un incidente discusso a margine di un'altra riunione lascia poche tracce, e senza tracce è difficile stabilire se la volta successiva si sia fatto meglio. Un verbale che registra l'evento, la valutazione e la decisione permette di confrontare un incidente con il successivo, una conversazione a margine no.
C'è un'ultima cautela. Dalle sintesi disponibili non risulta alcuna distinzione per gravità, quindi nella stessa percentuale entrano l'errore che costa mezz'ora di lavoro e l'esposizione dei dati dei clienti. Non sappiamo quanti dei cambiamenti mancati fossero giustificati, perché non ogni episodio richiede una regola nuova. Il 40% va letto come un limite inferiore di attenzione, non come una pagella.
Il comitato non è la risposta automatica
Il confronto tra 98% e 26% suggerisce che manchi uno strumento, e su questo sarei prudente. Un comitato dedicato è una forma possibile di presidio, non l'unica, e il sondaggio non contiene alcuna evidenza che le imprese che lo hanno gestiscano gli incidenti meglio delle altre. Un comitato rischi o un comitato controllo con un mandato esplicito sull'AI può svolgere la stessa funzione. Un comitato istituito per completare un elenco può non svolgerne nessuna.
Più istruttivo, a mio avviso, è il dato sulla quantificazione finanziaria. Se solo il 37% degli intervistati dichiara una stima del danno economico esaminata dal board, per molti consigli il rischio AI resta una categoria qualitativa: se ne discute, si è d'accordo in linea di principio, ma non compare tra i numeri su cui si decide.
I comunicati nazionali di IBM mostrano valori diversi. Nel Regno Unito il 31% ha un comitato dedicato e il 50% una quantificazione rivista dal board, in Germania il comitato è al 34%. L'Italia fa parte del campione, ma il comunicato EMEA non pubblica una ripartizione italiana: il dato aggregato non va letto come una descrizione automatica del nostro mercato.
Perché riguarda anche i fondi e le società di portafoglio
In una società partecipata da un fondo il consiglio è di solito piccolo: rappresentanti dell'investitore, amministratore delegato, a volte un paio di consiglieri indipendenti. Il tempo è poco e l'agenda è occupata dal piano industriale, dai covenant, dalla preparazione dell'uscita. In un contesto simile un comitato dedicato all'AI è poco realistico. La funzione di presidio, se c'è, deve stare altrove: in una delega chiara a un consigliere, in un punto fisso all'ordine del giorno, in un referente operativo con nome e cognome.
Per un fondo il luogo più naturale non è nemmeno il consiglio, ma la reportistica periodica che le società già producono. Una riga fissa sugli incidenti AI del trimestre, con tre informazioni (che cosa è successo, chi ha deciso, che cosa è cambiato), costa poco a chi la compila e dà al fondo una serie confrontabile tra le partecipate. È una proposta mia, non una prassi rilevata, e funziona solo se chi riceve la riga la legge davvero. Dopo qualche trimestre permette di capire quali società correggono il tiro e quali si limitano a riferire.
C'è poi una ragione che riguarda il fondo in quanto tale. Un agente che sbaglia in una società di portafoglio è un costo e un rischio reputazionale, e nei mesi che precedono una cessione diventa un tema che un acquirente attento può voler approfondire. Questa è una mia inferenza e non un dato del sondaggio, ma è ragionevole attendersi che la domanda su come siano stati gestiti gli incidenti AI, e su che cosa sia cambiato dopo, entri nelle due diligence prima di quanto accada oggi. Chi ha una risposta documentata arriva a quel momento in una posizione migliore di chi deve ricostruirla all'ultimo.
Resta un'avvertenza sul campione. Le imprese con oltre mille dipendenti hanno in genere funzioni di rischio, compliance e legale che molte società di portafoglio italiane, più piccole, non hanno. Se i numeri di IBM descrivono una maturità media, quella delle realtà minori è probabilmente più bassa. Anche questa è un'ipotesi, e nessun dato citato qui permette di verificarla.
Per chi non ha un fondo alle spalle
Nelle imprese familiari e nel mid-market senza investitori finanziari il quadro è diverso, e per certi versi più semplice. Il consiglio coincide spesso con la proprietà, le decisioni sono rapide, il rapporto con chi usa gli strumenti è diretto. Il rischio è speculare: un tema che resta nelle mani di una sola persona, di solito il responsabile dei sistemi informativi o un dirigente appassionato, senza che nessuno sopra di lui abbia chiesto che cosa succede se il sistema sbaglia.
Sul piano normativo il calendario ha smesso di essere incerto. Con il Digital Omnibus, in vigore da luglio, gli obblighi per i sistemi ad alto rischio dell'Allegato III dell'AI Act, che comprende tra l'altro la selezione del personale e la valutazione del merito di credito, si applicano dal 2 dicembre 2027 e non più dal 2 agosto 2026. Secondo diversi commenti professionali il rinvio dipende dall'assenza di standard tecnici definitivi e non da un ammorbidimento delle richieste. Chi usa strumenti di questo tipo ha quindi poco più di tredici mesi per costruire quello che l'obbligo richiederà, compresa la registrazione automatica dell'uso dei sistemi. Secondo il comunicato IBM, il 41% degli intervistati dell'Unione Europea sta già accelerando gli investimenti in governance in vista di quegli obblighi.
Un consiglio che non voglia fermarsi alla presa d'atto può cominciare da poco. Stabilire in anticipo quali eventi devono arrivare in consiglio e con quali tempi, così che la segnalazione non dipenda dal giudizio di chi ha commesso l'errore. Dare a ogni sistema che decide in autonomia un responsabile con nome e cognome: nel comunicato IBM il CIO o il CTO è il ruolo più citato come responsabile degli esiti dannosi degli agenti, ma lo indica soltanto il 17% degli intervistati, segno che un'attribuzione condivisa non c'è. Chiedere infine che il verbale, dopo ogni incidente, riporti se una regola è cambiata e quale, oppure perché si è deciso di lasciarla com'è. Non servono un comitato né un budget dedicato.
Rimane una domanda che la struttura non risolve: chi, tra le persone sedute al tavolo, è in grado di valutare la risposta di un responsabile tecnico quando dice che l'incidente è stato contenuto. È una questione di composizione prima che di organizzazione, e il sondaggio non la tocca.
Che cosa resta da misurare
Il rapporto IBM non permette di dire se le imprese governino bene o male l'AI, né se un comitato faccia differenza. Documenta che il tema è arrivato nelle sale dei consigli. Manca la misura del passo successivo: non quanti consigli hanno ricevuto la notizia, ma quanti, dopo averla ricevuta, hanno deciso qualcosa.
Silvio Fontaneto, Senior Partner, Beaumont Group. Scrive la newsletter AI Impact on Business: https://www.linkedin.com/newsletters/ai-impact-on-business-7326519028552765440/
Materiali di pubblicazione
Slug: board-incidenti-ia-governance-ibm-2026
Meta description IT: Sondaggio IBM su 3.221 dirigenti EMEA: l'80% ha visto un incidente AI arrivare al board. Che cosa succede dopo, per fondi e imprese.
Meta description EN: IBM survey of 3,221 EMEA executives: 80% saw an AI incident reach the board. What happens next for funds, portfolio companies and other businesses.
Excerpt: Dopo l'incidente: cosa fanno i consigli di amministrazione quando l'AI sbaglia
Il 14 ottobre IBM ha pubblicato i risultati di un sondaggio su 3.221 dirigenti senior di imprese con più di mille dipendenti, in otto Paesi: Regno Unito, Francia, Germania, Italia, Spagna, Paesi Bassi, Arabia Saudita ed Emirati Arabi Uniti. L'80% degli intervistati dichiara che nell'ultimo anno un incidente legato all'intelligenza artificiale è arrivato al consiglio di amministrazione o al vertice esecutivo. Per IBM un incidente può essere il guasto di un agente, l'esposizione di dati, una decisione sbagliata presa da un sistema automatico o una violazione di sicurezza.
Il comunicato insiste sull'escalation, ma la cifra che mi sembra più utile sta qualche riga sotto. Tra le organizzazioni in cui l'incidente è arrivato al board o al vertice esecutivo, meno della metà, il 40%, dichiara di aver modificato politiche o quadro di governance in risposta. Il 60% restante, in altre parole, ha ricevuto la notizia e ha lasciato le regole dove erano.
Parto da qui perché la distanza tra venire a sapere e modificare una regola riguarda tutte le imprese che stanno portando l'AI dentro i processi, abbiano o meno un fondo di private equity tra gli azionisti.
Che cosa dice il sondaggio, e che cosa non dice
Prima i numeri. Il 98% degli intervistati dichiara che la responsabilità del rischio AI è assegnata formalmente al livello del board, ma solo il 26% ha un comitato dedicato. Il 75% si aspetta agenti con un certo grado di autonomia decisionale entro il 2027, mentre il 37% ritiene la propria governance progettata per reggerne la crescita. Una quota identica, sempre il 37%, dispone di una quantificazione del rischio finanziario legato alle lacune di governance che sia stata esaminata dal board. Poi i limiti. IBM vende tecnologia e consulenza sulla governance dell'AI e ha un interesse evidente a mostrare che il problema è diffuso. Le risposte sono dichiarate e non verificate, e a rispondere sono singoli dirigenti, non consigli di amministrazione. Il campione esclude le imprese sotto i mille dipendenti, che in Italia sono la quasi totalità del tessuto produttivo. Non risulta una revisione accademica indipendente: la rilevazione è stata condotta da Censuswide per conto di IBM tra il 14 e il 24 settembre, e il comunicato rimanda a un rapporto completo, ma dal materiale che ho consultato non emergono questionario e dati grezzi. Niente di questo rende i numeri inutilizzabili, ne stabilisce però l'uso: sono un indizio sull'ordine di grandezza, non una misura precisa.
Segnalare un incidente non significa governarlo
L'80% si può leggere in due modi opposti. Chi preferisce la lettura ottimistica osserva che i problemi arrivano dove devono arrivare: se un agente sbaglia e il board lo viene a sapere, il sistema di allarme funziona. È una lettura ragionevole. C'è anche un effetto di composizione, perché più sistemi in produzione generano più eventi da riportare, e questo da solo non dice che la governance sia peggiorata.
Il punto delicato sta in ciò che accade dopo. Se un episodio arriva in consiglio e nella maggior parte dei casi nessuna regola cambia, il ciclo si ferma alla presa d'atto. C'è poi una questione di forma, e qui parlo da osservatore, non dai dati del rapporto. Un incidente discusso a margine di un'altra riunione lascia poche tracce, e senza tracce è difficile stabilire se la volta successiva si sia fatto meglio. Un verbale che registra l'evento, la valutazione e la decisione permette di confrontare un incidente con il successivo, una conversazione a margine no.
C'è un'ultima cautela. Dalle sintesi disponibili non risulta alcuna distinzione per gravità, quindi nella stessa percentuale entrano l'errore che costa mezz'ora di lavoro e l'esposizione dei dati dei clienti. Non sappiamo quanti dei cambiamenti mancati fossero giustificati, perché non ogni episodio richiede una regola nuova. Il 40% va letto come un limite inferiore di attenzione, non come una pagella.
Il comitato non è la risposta automatica
Il confronto tra 98% e 26% suggerisce che manchi uno strumento, e su questo sarei prudente. Un comitato dedicato è una forma possibile di presidio, non l'unica, e il sondaggio non contiene alcuna evidenza che le imprese che lo hanno gestiscano gli incidenti meglio delle altre. Un comitato rischi o un comitato controllo con un mandato esplicito sull'AI può svolgere la stessa funzione. Un comitato istituito per completare un elenco può non svolgerne nessuna.
Più istruttivo, a mio avviso, è il dato sulla quantificazione finanziaria. Se solo il 37% degli intervistati dichiara una stima del danno economico esaminata dal board, per molti consigli il rischio AI resta una categoria qualitativa: se ne discute, si è d'accordo in linea di principio, ma non compare tra i numeri su cui si decide.
I comunicati nazionali di IBM mostrano valori diversi. Nel Regno Unito il 31% ha un comitato dedicato e il 50% una quantificazione rivista dal board, in Germania il comitato è al 34%. L'Italia fa parte del campione, ma il comunicato EMEA non pubblica una ripartizione italiana: il dato aggregato non va letto come una descrizione automatica del nostro mercato.
Perché riguarda anche i fondi e le società di portafoglio
In una società partecipata da un fondo il consiglio è di solito piccolo: rappresentanti dell'investitore, amministratore delegato, a volte un paio di consiglieri indipendenti. Il tempo è poco e l'agenda è occupata dal piano industriale, dai covenant, dalla preparazione dell'uscita. In un contesto simile un comitato dedicato all'AI è poco realistico. La funzione di presidio, se c'è, deve stare altrove: in una delega chiara a un consigliere, in un punto fisso all'ordine del giorno, in un referente operativo con nome e cognome.
Per un fondo il luogo più naturale non è nemmeno il consiglio, ma la reportistica periodica che le società già producono. Una riga fissa sugli incidenti AI del trimestre, con tre informazioni (che cosa è successo, chi ha deciso, che cosa è cambiato), costa poco a chi la compila e dà al fondo una serie confrontabile tra le partecipate. È una proposta mia, non una prassi rilevata, e funziona solo se chi riceve la riga la legge davvero. Dopo qualche trimestre permette di capire quali società correggono il tiro e quali si limitano a riferire.
C'è poi una ragione che riguarda il fondo in quanto tale. Un agente che sbaglia in una società di portafoglio è un costo e un rischio reputazionale, e nei mesi che precedono una cessione diventa un tema che un acquirente attento può voler approfondire. Questa è una mia inferenza e non un dato del sondaggio, ma è ragionevole attendersi che la domanda su come siano stati gestiti gli incidenti AI, e su che cosa sia cambiato dopo, entri nelle due diligence prima di quanto accada oggi. Chi ha una risposta documentata arriva a quel momento in una posizione migliore di chi deve ricostruirla all'ultimo.
Resta un'avvertenza sul campione. Le imprese con oltre mille dipendenti hanno in genere funzioni di rischio, compliance e legale che molte società di portafoglio italiane, più piccole, non hanno. Se i numeri di IBM descrivono una maturità media, quella delle realtà minori è probabilmente più bassa. Anche questa è un'ipotesi, e nessun dato citato qui permette di verificarla.
Per chi non ha un fondo alle spalle
Nelle imprese familiari e nel mid-market senza investitori finanziari il quadro è diverso, e per certi versi più semplice. Il consiglio coincide spesso con la proprietà, le decisioni sono rapide, il rapporto con chi usa gli strumenti è diretto. Il rischio è speculare: un tema che resta nelle mani di una sola persona, di solito il responsabile dei sistemi informativi o un dirigente appassionato, senza che nessuno sopra di lui abbia chiesto che cosa succede se il sistema sbaglia.
Sul piano normativo il calendario ha smesso di essere incerto. Con il Digital Omnibus, in vigore da luglio, gli obblighi per i sistemi ad alto rischio dell'Allegato III dell'AI Act, che comprende tra l'altro la selezione del personale e la valutazione del merito di credito, si applicano dal 2 dicembre 2027 e non più dal 2 agosto 2026. Secondo diversi commenti professionali il rinvio dipende dall'assenza di standard tecnici definitivi e non da un ammorbidimento delle richieste. Chi usa strumenti di questo tipo ha quindi poco più di tredici mesi per costruire quello che l'obbligo richiederà, compresa la registrazione automatica dell'uso dei sistemi. Secondo il comunicato IBM, il 41% degli intervistati dell'Unione Europea sta già accelerando gli investimenti in governance in vista di quegli obblighi.
Un consiglio che non voglia fermarsi alla presa d'atto può cominciare da poco. Stabilire in anticipo quali eventi devono arrivare in consiglio e con quali tempi, così che la segnalazione non dipenda dal giudizio di chi ha commesso l'errore. Dare a ogni sistema che decide in autonomia un responsabile con nome e cognome: nel comunicato IBM il CIO o il CTO è il ruolo più citato come responsabile degli esiti dannosi degli agenti, ma lo indica soltanto il 17% degli intervistati, segno che un'attribuzione condivisa non c'è. Chiedere infine che il verbale, dopo ogni incidente, riporti se una regola è cambiata e quale, oppure perché si è deciso di lasciarla com'è. Non servono un comitato né un budget dedicato.
Rimane una domanda che la struttura non risolve: chi, tra le persone sedute al tavolo, è in grado di valutare la risposta di un responsabile tecnico quando dice che l'incidente è stato contenuto. È una questione di composizione prima che di organizzazione, e il sondaggio non la tocca.
Che cosa resta da misurare
Il rapporto IBM non permette di dire se le imprese governino bene o male l'AI, né se un comitato faccia differenza. Documenta che il tema è arrivato nelle sale dei consigli. Manca la misura del passo successivo: non quanti consigli hanno ricevuto la notizia, ma quanti, dopo averla ricevuta, hanno deciso qualcosa.
Silvio Fontaneto, Senior Partner, Beaumont Group. Scrive la newsletter AI Impact on Business: https://www.linkedin.com/newsletters/ai-impact-on-business-7326519028552765440/
Connect
Reach out for tailored AI leadership guidance
© 2026 Silvio Fontaneto. All rights reserved.