IA e rischio per l’umanità: l’allarme degli esperti

L’intelligenza artificiale continua a svilupparsi a una velocità che fino a pochi anni fa sarebbe sembrata impensabile. I sistemi oggi disponibili sono in grado di comprendere testi, generare immagini e video, scrivere programmi, analizzare enormi quantità di informazioni e svolgere compiti sempre più complessi. Ma proprio questa crescita delle capacità sta alimentando una domanda che fino a poco tempo fa apparteneva soprattutto alla fantascienza: che cosa potrebbe accadere se un'intelligenza artificiale diventasse molto più capace dell'essere umano in un numero crescente di attività e fosse contemporaneamente in grado di agire in modo autonomo?

La preoccupazione non riguarda necessariamente le macchine come vengono rappresentate nei film. Il rischio individuato dagli esperti è più sottile e riguarda soprattutto la possibilità di perdere progressivamente il controllo sul comportamento di sistemi estremamente potenti.

Un rischio, non una profezia - Parlare di possibile "estinzione dell'umanità" può facilmente generare allarmismo. È però importante distinguere tra una previsione certa e una valutazione probabilistica. Nessuno può oggi affermare scientificamente che l'intelligenza artificiale porterà alla scomparsa dell'uomo. Esiste tuttavia una parte della comunità scientifica che considera questo scenario abbastanza plausibile da dover essere preso in seria considerazione. Il punto non è quindi sostenere che la catastrofe sia inevitabile.

Il punto è chiedersi quanto sarebbe grave il rischio qualora sistemi estremamente avanzati riuscissero a perseguire autonomamente obiettivi non perfettamente compatibili con quelli umani. Anche una probabilità relativamente bassa può diventare importante quando le conseguenze ipotizzate sarebbero irreversibili.

Il problema del controllo

Uno dei principali temi studiati nella sicurezza dell'intelligenza artificiale è proprio il controllo dei sistemi avanzati. Un programma tradizionale esegue istruzioni definite dagli esseri umani. I sistemi più moderni, invece, possono interpretare obiettivi, elaborare strategie e scegliere autonomamente quali operazioni compiere per raggiungerli. Finché le attività rimangono limitate, eventuali errori possono essere corretti.

Il problema potrebbe diventare molto più complesso quando un sistema avesse accesso a strumenti esterni, infrastrutture digitali, grandi quantità di dati o risorse computazionali e fosse capace di operare per lunghi periodi senza una supervisione umana continua. In uno scenario simile, anche un comportamento nato da un errore di progettazione o da un obiettivo interpretato nel modo sbagliato potrebbe produrre conseguenze difficili da prevedere.

Più intelligenza, più autonomia

La questione fondamentale non è soltanto quanto sarà intelligente una macchina. È che cosa potrà fare autonomamente con quella capacità. Un sistema capace di rispondere a una domanda rappresenta un problema molto diverso da un sistema capace di pianificare una strategia, utilizzare altri strumenti, modificare il proprio comportamento e prendere decisioni successive senza dover chiedere continuamente l'intervento di una persona. Con l'aumento dell'autonomia cresce anche la necessità di comprendere e prevedere il comportamento del sistema. Ed è proprio questo uno dei punti sui quali la ricerca non ha ancora fornito risposte definitive.

Perché gli esperti sono preoccupati

La preoccupazione nasce soprattutto dalla velocità con cui stanno aumentando le capacità dei modelli. In passato era relativamente semplice prevedere che cosa un programma potesse o non potesse fare. Con i sistemi di nuova generazione, invece, alcune capacità emergono durante l'addestramento e possono essere difficili da anticipare con precisione. Questo rende più complicato stabilire in anticipo tutti i possibili comportamenti di un sistema. Gli esperti temono quindi che la capacità di sviluppare tecnologie sempre più potenti possa crescere più rapidamente della capacità di comprenderne completamente i rischi.

Il rischio potrebbe non essere immediato

Un altro elemento importante è la prospettiva temporale. L'ipotesi di un rischio esistenziale non significa necessariamente che esista un pericolo imminente. Si parla soprattutto di ciò che potrebbe accadere nel momento in cui l'intelligenza artificiale raggiungesse livelli di capacità e autonomia significativamente superiori a quelli attuali. Non sappiamo quando, o se, questo livello verrà raggiunto.

Ma proprio l'incertezza rappresenta una delle ragioni per cui alcuni esperti ritengono necessario affrontare il problema prima che la tecnologia raggiunga una fase nella quale eventuali errori potrebbero essere molto più difficili da correggere.

Tra progresso e prudenza

L'intelligenza artificiale potrebbe produrre enormi benefici in ambiti come la medicina, la ricerca scientifica, l'industria e l'istruzione. Il fatto che esistano rischi potenzialmente estremi non significa quindi che lo sviluppo della tecnologia debba essere necessariamente fermato. Significa piuttosto che la crescita delle capacità dovrebbe essere accompagnata da sistemi di sicurezza adeguati, controlli, verifiche indipendenti e una maggiore comprensione del comportamento delle macchine. La questione non è scegliere tra progresso e paura. È cercare di fare in modo che il progresso tecnologico rimanga sotto il controllo dell'uomo.

La domanda che non possiamo più rimandare

L'ipotesi che un'intelligenza artificiale possa contribuire, direttamente o indirettamente, a uno scenario catastrofico rimane oggi una possibilità e non un fatto accertato. Ma ignorarla sarebbe altrettanto rischioso quanto trasformarla in una certezza. La domanda più importante, dunque, non è se le macchine siano già in grado di distruggere l'umanità. Non lo sono. La domanda è un'altra: se un giorno costruiremo sistemi molto più intelligenti e autonomi di quelli attuali, saremo sicuri di riuscire a mantenerne il controllo?

È una domanda alla quale la scienza non ha ancora una risposta definitiva. Ed è proprio per questo che il dibattito sulla sicurezza dell'intelligenza artificiale è diventato una delle questioni tecnologiche più importanti del nostro tempo.