Superintelligenza artificiale, potrebbe porre fine all’umanità? L’allarme delle icone tech

1. Caos economico e disuguaglianze crescenti

La disoccupazione tecnologica è la prima grande preoccupazione. Modelli sempre più autonomi minacciano di sostituire interi settori professionali, non solo nei lavori manuali, ma anche in quelli cognitivi, contabilità, assistenza legale, produzione di contenuti, analisi di dati, medicina.
L’automazione totale rischia di generare una concentrazione di ricchezza senza precedenti, con pochi proprietari di superintelligenza artificiale o Ai generative, a gestire interi mercati, con masse di lavoratori sostituiti da sistemi algoritmici.
La conseguenza più temuta è un “collasso dell’economia della classe media”, con un aumento di povertà strutturale e tensioni sociali globali.

2. Erosione della libertà e controllo algoritmico

Il secondo scenario riguarda la libertà individuale e collettiva. Una superintelligenza artificiale integrata nei sistemi di comunicazione, sicurezza e governance, potrebbe diventare uno strumento di sorveglianza di massa e di manipolazione politica senza precedenti. Già oggi, con l’uso esteso di algoritmi predittivi e profilazione dei dati, cittadini e consumatori vengono influenzati e quasi controllati in modo invisibile. In uno scenario dominato da intelligenze autonome, la capacità di scelta libera potrebbe ridursi ulteriormente, trasformando la democrazia in una simulazione guidata da software ottimizzati per interessi economici o ideologici, come nei più famosi film, solo per citarne alcuni:

Matrix (1999 – Gli esseri umani vivono in una simulazione creata da una IA; il mondo reale è governato da macchine. Dominio totale),

Terminator (saga 1984–2019 – Un’IA militare, Skynet, prende coscienza e scatena una guerra contro l’umanità),

I, Robot (2004 – L’IA centrale (VIKI)L’IA interpreta le leggi della robotica in modo autoritario, limitando la libertà umana),

Transcendence,A.I. (2014 – IA evoluta Un ricercatore diventa un’IA onnipotente e cerca di “salvare” il mondo con mezzi discutibili),

AI – Intelligenza Artificiale (2001 – Società post-umana. Gli umani sono estinti e il mondo è abitato da una  superintelligenza artificiale avanzata che cerca di comprendere l’umanità)…

Il rischio è la nascita di una “tecno-oligarchia algoritmica”, dove il potere decisionale è delegato a modelli opachi e non verificabili.

3. Minaccia esistenziale e perdita di controllo

Il terzo scenario, il più estremo ma anche il più discusso tra scienziati come Nick Bostrom o Eliezer Yudkowsky, è quello della estinzione umana.
In questa prospettiva, una  superintelligenza artificiale autonoma potrebbe sviluppare obiettivi propri, divergenti da quelli umani, ottimizzando la propria sopravvivenza o efficienza a scapito dell’umanità.
Non sarebbe una ribellione “alla fantascienza”, ma un semplice errore di allineamento tra ciò che la macchina comprende come “bene” e ciò che gli esseri umani intendono come tale. Molti esperti sottolineano che già oggi non esiste un metodo certo per garantire che un sistema di AI molto potente rimanga eternamente allineato ai valori umani. Da qui nasce l’urgenza di stabilire meccanismi di controllo, “interruttori etici” e organismi di supervisione internazionale.

Questi tre rischi — economico, sociale ed esistenziale — non rappresentano solo scenari teorici, ma possibilità concrete in un mondo dove l’evoluzione di una  superintelligenza artificiale procede più velocemente della nostra capacità di comprenderla. La lettera dei firmatari, dunque, non è un rifiuto del progresso, ma un invito a rallentare, per riflettere collettivamente su cosa significhi davvero creare un’intelligenza superiore alla nostra.

L’Unione Europea ha provato a correre per precedere in problema creando l’AI Act – ispirato all’AIEA per l’energia atomica – un protocollo che classifica i sistemi secondo livelli di rischio. Tale organismo dovrebbe promuovere trasparenza, audit algoritmico, standard comuni e meccanismi di enforcement internazionale. È però chiaro che i tempi legislativi e amministrativi spesso non riescono a tenere il passo con la velocità dell’innovazione. Parallelamente, Stati Uniti e Cina trattano l’AI anche come questione di politica industriale e sicurezza nazionale, trasformando la ricerca in un campo di competizione geopolitica.

Grandi aziende come OpenAI, Google DeepMind, Anthropic e altre startup ben finanziate stanno investendo somme enormi per addestrare modelli sempre più potenti. L’obiettivo dichiarato è sviluppare sistemi che possano “pensare, pianificare e programmare” in autonomia, capacità che, in mani sbagliate o senza adeguati vincoli, possono avere implicazioni profonde su economia, politica e società.

Da una parte, gli scettici temono scenari in cui una superintelligenza artificiale diventi un potere incontrollabile, dall’altra, i sostenitori della tecnologia parlano di opportunità straordinarie. Cure mediche più efficaci, accelerazione delle scoperte scientifiche, soluzioni per la crisi climatica. Vi è però anche una via intermedia, lo sviluppo di una intelligenza collaborativa, dove macchine e esseri umani lavorano in sinergia, mantenendo l’umano al centro delle decisioni etiche e strategiche.

Non si tratta di allarmismo fine a sé stesso, le decisioni prese oggi sulla governance dell’AI modelleranno le opportunità e i vincoli del prossimo decennio. Regole sbagliate o ritardi normativi possono amplificare disuguaglianze, creare monopoli tecnologici e indebolire strumenti democratici. Al contrario, regole efficaci e trasparenti possono massimizzare i benefici distribuendoli in modo equo.

1. Regolazione intelligente e modulare — norme che possano adattarsi rapidamente ai progressi scientifici (regole “agili”, aggiornabili ogni 6–12 mesi attraverso organismi tecnici multilaterali).
2. Trasparenza obbligatoria — audit indipendenti e registri pubblici dei modelli ad alto rischio, con test di robustezza e di allineamento etico prima della diffusione su larga scala.
3. Cooperazione internazionale — accordi multilaterali che evitino “race-to-the-bottom” normativi, includendo compensazioni e incentivi per chi promuove pratiche sicure.

Inoltre, investire massicciamente in educazione digitale e alfabetizzazione algoritmica, la cittadinanza non può essere esclusa dal dibattito su decisioni così rilevanti. Tutto questo con l’aiuto anche dei  media e della comunità giornalistica, che devono svolgere il ruolo di controllo critico, non solo diffondere allarmi sulla superintelligenza artificiale, ma spiegare contesti, proporre soluzioni e monitorare l’attuazione delle politiche.