AI e rischio esistenziale: capire chi ha interesse a dire cosa
Descrizione del post del blog.
EXECUTIVE SEARCHLEADERSHIP & MANAGEMENTINDUSTRY TRANSFORMATIONAI STRATEGYITALIANOPRIVATE EQUITY & VC
Il 9 settembre 2026 Jacob Coxon, ventisettenne che ha lavorato per tre anni su ricerca di pretraining sia a OpenAI sia ad Anthropic, ha annunciato su X le proprie dimissioni con un messaggio che in poche ore ha superato i 70 milioni di visualizzazioni. Le due aziende, ha scritto, stanno "gambling with our lives", scommettendo sulle nostre vite nella corsa verso sistemi capaci di auto-migliorarsi. In un'intervista al Wall Street Journal ha aggiunto di temere che, senza un rallentamento concordato tra i laboratori, la situazione possa sfuggire di mano già entro la fine del prossimo anno. Poche ore dopo Evan Hubinger, responsabile allineamento in Anthropic, ha confermato pubblicamente di condividere la stima: probabilità superiore al 10% che l'AI possa portare all'estinzione umana entro un decennio.
Per un consiglio di amministrazione o un CEO che deve allocare budget e attenzione, la domanda non è se questa storia sia vera o esagerata. È più utile chiedersi: chi sta dicendo cosa, con quale interesse, e cosa cambia davvero per le decisioni di oggi. La storia recente offre già un campionario ampio di posizioni, spesso agli antipodi tra loro pur partendo dallo stesso accesso alla tecnologia. Quattro letture aiutano a orientarsi, e nessuna esclude le altre.
Il timore autentico degli insider
La prima lettura è che il timore sia sincero, e non marginale. Non sono solo attivisti esterni a esprimerlo: Geoffrey Hinton, Nobel e considerato tra i padri fondatori del deep learning, stima tra il 10 e il 20% la probabilità che l'AI porti a un'estinzione umana nell'arco di trent'anni. Elon Musk indica un 20%. Dario Amodei, CEO di Anthropic, ha dichiarato una probabilità del 25% che le cose vadano "really, really badly", pur controbilanciata da un 75% di scenario positivo. Il recente International AI Safety Report 2026, redatto con il contributo di oltre cento esperti indipendenti di orientamenti diversi, descrive probabilità, natura e tempistica del rischio come "insolitamente ambigue": non un allarme confermato, ma nemmeno un rischio liquidabile.
L'effetto amplificazione e l'assenza di consenso scientifico
La seconda lettura è che questo allarme non sia affatto rappresentativo dell'intera comunità tecnica, ma rifletta una forte distorsione percettiva. In un sondaggio della testata accademica The Conversation, tre esperti su cinque interpellati hanno risposto di no alla domanda se l'AI rappresenti un rischio esistenziale. Il sondaggio periodico di AI Impacts tra migliaia di ricercatori attivi nel settore, che dal 2016 monitora queste stime, colloca la mediana della probabilità di estinzione intorno al 5%, un ordine di grandezza sotto le cifre pubbliche di Hinton, Musk e Amodei.
La differenza suggerisce che le voci più citate dai media appartengano a un sottoinsieme più allarmato e per questo mediaticamente più visibile. Yann LeCun, co-fondatore e chairman di AMI Labs (realtà che ha raccolto oltre un miliardo di dollari su un'architettura tecnica alternativa), sostiene pubblicamente che i grandi modelli linguistici siano architetturalmente incapaci di raggiungere una vera intelligenza generale. Quando persone con lo stesso livello di accesso alla tecnologia arrivano a conclusioni opposte, la certezza tecnica semplicemente non è disponibile: quello che resta è una forbice ampia di stime, non un consenso.
Dietro la paura, anche un caso economico
La terza lettura riguarda gli incentivi finanziari, e corre su un binario in parte separato dal dibattito sull'estinzione. Nel 2026 la spesa globale in AI supera 2.500 miliardi di dollari, con multipli di valutazione delle principali aziende del settore paragonabili a quelli che precedettero la bolla delle dot-com. Circa il 68% dei CEO dichiara di voler aumentare ulteriormente la spesa in AI nel prossimo anno, nonostante meno della metà dei progetti attuali mostri un ritorno misurabile.
Istituzioni come la Bank for International Settlements e alcuni analisti assicurativi hanno iniziato a chiedersi apertamente se la monetizzazione degli investimenti in AI riuscirà a tenere il passo del capitale investito. In questo contesto, una tecnologia descritta come abbastanza potente da minacciare l'umanità è anche, implicitamente, una tecnologia abbastanza potente da giustificare qualunque valutazione di mercato. Non è un caso che diversi analisti finanziari notino la funzione che una narrazione di potenza estrema svolge nel sostenere il capitale investito.
La geopolitica della paura e la regulatory capture
La quarta lettura è politica e regolatoria, e non riguarda l'estinzione ma il controllo dell'infrastruttura tecnologica stessa. Stati Uniti ed Europa stanno usando framework di sicurezza AI in modo dichiaratamente divergente: Washington spinge per una deregolamentazione che eviti di perdere terreno nella competizione globale, mentre Bruxelles utilizza l'AI Act come leva industriale e negoziale, con funzionari europei che dichiarano apertamente che regole stringenti saranno inevitabili anche per le aziende statunitensi che operano nel mercato unico.
Negli Stati Uniti, l'amministrazione ha definito pubblicamente "una bufala" le previsioni di estinzione da AI, trasformando un tema tecnico in terreno di scontro politico interno a ridosso delle elezioni di midterm del 2026. Contemporaneamente, la critica di regulatory capture, l'accusa cioè che i grandi laboratori spingano per regole severe proprio per alzare i costi d'ingresso ai concorrenti più piccoli e all'open source, arriva oggi sia da posizioni conservatrici sia da posizioni progressiste, con la stessa conclusione pratica: la narrazione del rischio serve anche a consolidare posizioni di mercato e di influenza normativa.
Cosa cambia per un CEO
Le quattro letture non si escludono a vicenda, coesistono e si rinforzano. Il timore tecnico autentico degli insider, l'effetto amplificazione che oscura la prudenza della maggioranza dei ricercatori, l'incentivo finanziario a difendere valutazioni trilionarie e la convenienza politica a usare il tema come leva regolatoria possono essere tutti veri contemporaneamente, senza che questo dica nulla sulla fondatezza del rischio in sé.
Un elemento vale la pena notarlo: chi esprime il timore più sincero, i ricercatori che si dimettono pubblicamente rinunciando a stipendi milionari e carriera, come Coxon e, prima di lui, Mrinank Sharma, ha in genere meno da guadagnare dalla narrazione rispetto a chi la usa per giustificare valutazioni di mercato o difendere rendite regolatorie. Questo non prova chi abbia ragione sul piano scientifico, ma è un criterio pratico per interpretare le notizie che si susseguono.
Per un consiglio di amministrazione o per un CEO, la lezione operativa non è decidere se temere l'estinzione. È applicare lo stesso filtro a ogni allarme tecnologico che arriva in azienda, dal fornitore che promette miracoli al consulente che minaccia catastrofi se non si firma subito un contratto: chi parla, quale interesse economico o politico ha nel far percepire la situazione in un certo modo, e quale evidenza verificabile porta oltre l'urgenza della propria voce.
Le decisioni AI più solide che osserviamo nelle organizzazioni, dalla governance agli investimenti, non nascono da chi sceglie una tifoseria tra ottimisti e apocalittici, ma da chi ha imparato a mappare gli incentivi prima di scegliere a chi credere.
Silvio Fontaneto è Senior Partner, Beaumont Group, dove guida la Tech & Digital Executive Search Practice per l'Italia, con un focus su Board Advisory, C-Level search in ambito AI, Governance e trasformazione organizzativa. Autore di "Stop Fearing AI" e della trilogia "The Vector".
Esplora il Knowledge Hub completo: www.silviofontaneto.com
📬 Iscriviti alla newsletter "AI Impact on Business" per ricevere analisi settimanali: LinkedIn Newsletter
Approfondisci: www.silviofontaneto.com/articles (filtra: AI Strategy)
#AIRisk #AIGovernance #ArtificialIntelligence #Leadership #ExecutiveSearch #AIAct #BoardEffectiveness #FutureOfWork
Connect
Reach out for tailored AI leadership guidance
© 2026 Silvio Fontaneto. All rights reserved.