Fiducia sotto attacco

Oggi parleremo soprattutto di due cose: intelligenza artificiale e Zero Trust. Due temi apparentemente distinti, ma in realtà profondamente connessi. Perché entrambi ci pongono davanti alla stessa domanda:

Di chi, e di che cosa, possiamo ancora fidarci?

L’intelligenza artificiale sta trasformando profondamente le nostre abitudini, i nostri comportamenti e persino le nostre capacità cognitive. Ci permette di fare cose che fino a pochi anni fa sembravano impossibili. Ma introduce anche rischi nuovi, complessi e, in parte, ancora sconosciuti.

Mentre sistemi di IA sempre più potenti vengono messi a disposizione di miliardi di persone, spesso senza un’adeguata preparazione, ci avviciniamo a scenari che fino a poco tempo fa appartenevano alla fantascienza. I progressi misurati da benchmark come quelli di ARC Prize alimentano il dibattito sull’avvicinamento all’intelligenza artificiale generale, o AGI: sistemi capaci di affrontare una gamma sempre più ampia di compiti cognitivi.

E già si discute della fase successiva: la superintelligenza artificiale, potenzialmente capace di superare le abilità umane in numerosi ambiti. Nel frattempo, prosegue anche la ricerca sul calcolo quantistico. Due frontiere tecnologiche che, se e quando potranno convergere su larga scala, potrebbero cambiare radicalmente gli equilibri economici, geopolitici e della sicurezza.

La cosiddetta singolarità tecnologica, un tempo soltanto un’ipotesi filosofica, è oggi oggetto di un dibattito sempre più concreto. Pensiamo alle conseguenze sulla cybersecurity: attacchi informatici sempre più automatizzati, vulnerabilità individuate e sfruttate a velocità difficilmente sostenibili per le difese tradizionali, nuovi rischi per la crittografia e per la protezione delle informazioni. E pensiamo anche alla robotica umanoide, destinata a portare l’intelligenza artificiale fuori dagli schermi, nel mondo fisico, nei luoghi di lavoro e nella nostra quotidianità.

Non stiamo semplicemente introducendo nuovi strumenti. Stiamo modificando il rapporto tra l’essere umano e la tecnologia.

Di fronte a tutto questo, i legislatori cercano faticosamente di definire regole e garanzie che possano accompagnare un’evoluzione sempre più rapida. Chiedono trasparenza, controllo e supervisione. Obiettivi assolutamente condivisibili. Ma dobbiamo riconoscere che i sistemi di IA più avanzati presentano ancora importanti limiti di interpretabilità, prevedibilità e controllo.

Non a caso, le grandi aziende tecnologiche investono in team di interpretability, mentre alcuni fra i maggiori esperti mondiali continuano a richiamare l’attenzione sui rischi di uno sviluppo che potrebbe sfuggire alla nostra capacità di comprenderne e governarne le conseguenze. Ed è proprio qui che entra in gioco lo Zero Trust. Un principio nato nella cybersecurity, ma che oggi assume un significato molto più ampio.

Non fidarsi automaticamente. Verificare. Comprendere. Mettere continuamente in discussione ciò che consideriamo affidabile.

Perché nell’era dell’intelligenza artificiale la fiducia non riguarda più soltanto l’identità degli utenti o la sicurezza dei sistemi. Riguarda l’affidabilità delle informazioni, l’integrità delle decisioni, l’autonomia delle persone e persino l’autenticità di ciò che vediamo e ascoltiamo. Da una parte abbiamo gli interessi economici delle grandi multinazionali e le ambizioni geopolitiche dei governi. Dall’altra, un’accelerazione tecnologica che sembra non concedere spazio alla prudenza.

In mezzo ci siamo noi.

Cittadini spesso impreparati a distinguere ciò che è autentico da ciò che è artificiale. E professionisti chiamati ogni giorno a gestire minacce sempre più sofisticate e conseguenze sempre meno prevedibili.

Da anni partecipo a incontri accademici, scientifici e dedicati all’innovazione tecnologica supportata dall’IA. E c’è una cosa che continua a colpirmi. Si parla moltissimo di accuratezza, affidabilità, prestazioni ed efficienza dei modelli di intelligenza artificiale.

Percentuali. Probabilità. Statistiche.

Ma troppo raramente, almeno per quella che è la mia esperienza, vedo porre al centro del dibattito la questione più importante: L’essere umano.

Da tempo mi interrogo su quanto possiamo davvero fidarci di una tecnologia che comprendiamo soltanto in parte, che potrebbe superare molte delle nostre capacità e che stiamo progressivamente delegando a decisioni sempre più importanti. E soprattutto mi pongo un’altra domanda.

Perché investiamo risorse straordinarie per rendere l’intelligenza artificiale sempre più potente, ma non dedichiamo altrettanta attenzione a rendere l’essere umano più consapevole, competente e capace di governarla?

Continuiamo ad accelerare lo sviluppo tecnologico, mentre l’educazione, la cultura, il pensiero critico e la responsabilità individuale rischiano di non tenere il passo. In una società già attraversata da segnali preoccupanti di fragilità cognitive, relazionali e valoriali, questo squilibrio dovrebbe interrogarci profondamente.

A cosa servirà avere macchine sempre più intelligenti, se nel frattempo rinunceremo a sviluppare la nostra intelligenza?

Ed è questa la riflessione che vorrei lasciarvi oggi.

Il progresso non può essere misurato soltanto dalla potenza delle tecnologie che sviluppiamo, ma anche dalla loro capacità di migliorare la condizione umana. Non dobbiamo chiederci soltanto che cosa l’intelligenza artificiale sarà in grado di fare al posto nostro, ma soprattutto che cosa potrà permettere a noi di fare meglio.

Come professionisti, ricercatori, scienziati e accademici abbiamo una responsabilità che va oltre l’efficienza, l’innovazione e il profitto. Abbiamo la responsabilità etica e morale di valutare le conseguenze delle nostre scelte sulle persone, sulla società e sulle generazioni future.

Perché il futuro che stiamo progettando oggi non sarà un mondo astratto.

Sarà il mondo in cui noi, i nostri figli e le prossime generazioni dovremo vivere.

E la vera sfida non sarà costruire un’intelligenza artificiale sempre più potente.

Sarà dimostrare di essere abbastanza intelligenti, consapevoli e responsabili da saperla governare.

Grazie.

Se hai trovato utile questo articolo, condividilo sui tuoi profili social!