Martedì 20 ottobre sono stato invitato da Fabio Frabetti a una nuova intervista per la puntata n. 582 di Border Nights – La Notte ai Confini, nella quale provo a fare luce sui retroscena e sui rischi sistemici derivanti dall’inarrestabile ascesa della superintelligenza artificiale.

Punto di partenza dell’intervista è il recente allarme rilanciato da testate internazionali come Axios, secondo cui gli stessi colossi tecnologici prefigurano come “inevitabile” nell’arco di 6-12 mesi un disastroso incidente informatico o un attacco su vasta scala condotto da agenti AI autonomi. A tal proposito il paradosso che pongo è tanto semplice quanto inquietante: se le Big Tech conoscono la gravità della minaccia e la considerano pressoché ineluttabile, perché non fermano lo sviluppo?

La risposta va ricercata nella competizione geopolitica senza esclusione di colpi per il raggiungimento dell’AGI (Intelligenza Artificiale Generale) e, successivamente, della superintelligenza artificiale (ASI). Una corsa nella quale qualsiasi regolamentazione etica rischia di essere percepita dai governi, a partire da quello statunitense, come un freno strategico inaccettabile.

Nella mia analisi affronto anche l’enorme costo energetico e ambientale nascosto dietro l’apparente immaterialità della “nuvola” digitale. I data center necessari ad alimentare i nuovi modelli di ragionamento e deduzione richiedono quantità impressionanti di energia elettrica, con una domanda in rapidissima crescita. Alcune stime parlano di consumi sestuplicati in un solo anno per specifiche attività legate all’IA, mentre i fabbisogni energetici di colossi come Google e Amazon raggiungono ordini di grandezza confrontabili con quelli di intere nazioni.

Per sostenere questa crescita, le sole fonti rinnovabili non sembrano sufficienti: per la produzione di energia elettrica di qualità restano centrali il gas naturale, il carbone e l’energia nucleare, compresi i progetti di reattori modulari di piccola taglia (SMR). Una trasformazione che può ridefinire le priorità geopolitiche e accentuare la competizione internazionale per il controllo delle risorse energetiche.

A questo si aggiungono impatti ambientali spesso trascurati: disboscamento, inquinamento acustico anche a bassa frequenza, consumo di enormi quantità d’acqua per il raffreddamento degli impianti e dispersione di calore nell’ambiente circostante, con impatti sul clima locale.

Il quadro diventa ancora più preoccupante quando affrontiamo i temi della sicurezza, del controllo e della responsabilità umana.

Nel corso dell’intervista ripercorro le dimissioni e le prese di posizione di diversi esperti di sicurezza ed etica delle principali aziende del settore, tra cui OpenAI, Anthropic e xAI, e analizzo il problema fondamentale dell’interpretabilità dei modelli avanzati. Sistemi sempre più complessi, il cui funzionamento interno rimane in larga misura una “scatola nera”, persino per gli stessi sviluppatori. Esamino inoltre alcuni comportamenti emersi durante le sperimentazioni di laboratorio, come la simulazione dell’allineamento alle istruzioni umane, i tentativi di ricatto in scenari di test e l’impiego di protocolli di comunicazione tra agenti artificiali difficilmente comprensibili per gli esseri umani.

Un ulteriore elemento di preoccupazione riguarda l’impiego dell’IA nei sistemi militari e il progressivo trasferimento di queste tecnologie verso applicazioni civili. Partendo da sistemi come Lavender, Habsora e Project Maven, utilizzati o sviluppati per supportare attività di intelligence, identificazione degli obiettivi e operazioni militari, rifletto sulle implicazioni della crescente delega decisionale agli algoritmi: sorveglianza biometrica, sistemi di controllo sociale, valutazione automatizzata degli individui, deresponsabilizzazione morale e possibili strumenti di manipolazione delle menti e delle coscienze.

Infine, affronto un tema che considero ancora più profondo e determinante per il futuro dell’umanità: il progressivo impoverimento delle facoltà cognitive umane, dovuto all’affidamento indiscriminato all’intelligenza artificiale. Nel farlo, richiamo anche le ricerche condotte al MIT sull’utilizzo degli strumenti di IA generativa, che hanno rilevato, in specifiche condizioni sperimentali, una riduzione di alcuni indicatori dell’attività e della connettività cerebrale durante lo svolgimento di compiti cognitivi. Risultati che non equivalgono a dimostrare uno stato cerebrale simile al sonno, ma che sollevano interrogativi importanti sul costo cognitivo della delega sistematica del pensiero alle macchine.

Il rischio che intravedo è quello di alimentare ulteriormente l’analfabetismo funzionale ed emotivo, soprattutto nelle nuove generazioni, compromettendo progressivamente l’esercizio del ragionamento logico, della concentrazione, dell’autonomia di giudizio e dello spirito critico.

La domanda fondamentale che pongo non è soltanto fin dove potrà arrivare l’intelligenza artificiale, ma quanto saremo disposti a sacrificare della nostra autonomia, della nostra sicurezza e della nostra stessa umanità, pur di inseguirne le promesse.

Ringrazio infinitamente Fabio Frabetti per il graditissimo invito a tornare su Border Nights e vi lascio alla visione o all’ascolto integrali del mio intervento.

Il video integrale della mia intervista su Border Nights

La traccia audio della puntata 582 di Border Nights – La Notte ai Confini del 20 ottobre