Forse non sarà l'AI Armageddon che temiamo, ma la minaccia dell'intelligenza artificiale potrebbe assumere forme ben più inquietanti di qualsiasi scenario apocalittico concepito finora.
A dirlo è una ricercatrice di uno dei principali laboratori di IA al mondo, che a un amico preoccupato avrebbe risposto con una frase da brividi: "Moriremo in modi a cui non abbiamo ancora pensato".
La dichiarazione è stata riportata dallo stesso ragazzo, Adrian Johnston, in un post su LinkedIn, riaccendendo il dibattito su uno degli interrogativi più controversi del nostro tempo: l'intelligenza artificiale potrebbe davvero trasformarsi in una minaccia per la sopravvivenza dell'umanità?
E se le parole della ricercatrice restano un avvertimento senza riscontri concreti su una catastrofe imminente, alcuni rischi sono già al centro di studi scientifici: dalla possibilità che l'IA faciliti la progettazione di armi biologiche ai cyberattacchi sempre più sofisticati, fino alla manipolazione delle informazioni su larga scala.
Non si tratta, dunque, soltanto di scenari discussi nei laboratori della Silicon Valley. L'Unione Europea, per esempio, è già intervenuta con l'AI Act, il regolamento applicabile anche in Italia che introduce obblighi e divieti per contenere i rischi legati all'utilizzo dell'intelligenza artificiale.
Ma quanto c'è di concreto dietro gli scenari da fine del mondo? E quanto siamo davvero preparati ad affrontare i rischi di una tecnologia che continua a evolversi?
Indice
Cosa ha detto la ricercatrice
A raccontare lo scambio è un suo amico, che le ha chiesto senza giri di parole se dovremmo preoccuparci dell'AI Armageddon. La risposta è stata secca: "Moriremo in modi a cui non abbiamo pensato".
La ricercatrice viene presentata come un'amica dell'autore che lavora in uno dei laboratori di frontiera dell'IA. Il post non dice il suo nome né per quale azienda lavora, e soprattutto non indica alcuna tempistica per l'eventuale catastrofe.
Le reazioni si sono divise subito. C'è chi prende sul serio l'avvertimento e chi lo ridimensiona, ricordando le altre minacce esistenziali già vissute: la Guerra fredda, il bug del millennio, il Covid.
Il rischio delle epidemie create in laboratorio
Se la frase della ricercatrice resta vaga, c'è un pericolo su cui gli esperti hanno provato a mettere dei numeri: le epidemie artificiali. Il Time ha pubblicato un'indagine del Forecasting Research Institute, alla quale hanno partecipato 46 esperti di biosicurezza e biologia insieme a 22 "superforecaster", ovvero specialisti nelle previsioni.
L'ipotesi non è che un'IA crei da sola un virus. Il timore è che modelli linguistici come ChatGPT, Gemini o Grok possano fornire conoscenze tecniche a chi vuole progettare un'arma biologica, abbassando la soglia d'accesso.
Nell'indagine, gli esperti stimavano allo 0,3% il rischio che un'epidemia provocata dall'uomo nel 2028 causasse almeno 100.000 morti o mille miliardi di dollari di danni entro tre anni. Con un'IA capace di eguagliare il miglior team di virologi in un test, la stima saliva all'1,5%: cinque volte tanto.
E quello scenario potrebbe essere più vicino del previsto. Secondo una ricerca successiva dello stesso istituto con SecureBio, alcune IA avanzate avrebbero già superato livelli di competenza attesi solo per il 2030.
"L'esperienza necessaria per progettare intenzionalmente una nuova epidemia potrebbe diventare accessibile a molte, molte più persone", ha dichiarato Seth Donoughe, coautore dello studio.
Gli altri rischi e le regole europee
Le armi biologiche sono solo uno dei fronti. Tra i rischi dell'intelligenza artificiale più citati ci sono:
- deepfake, cioè audio e video manipolati per diffondere truffe o influenzare le elezioni;
- disinformazione automatizzata, prodotta in serie da bot e IA generative;
- cyberattacchi, con phishing e malware generati dall'IA;
- perdita di posti di lavoro, soprattutto nei ruoli più ripetitivi;
- sorveglianza, con l'IA applicata a telecamere e social per monitorare persone e comportamenti;
- consumo energetico, perché addestrare e usare i modelli richiede molta energia e acqua per raffreddare i datacenter.
Per contenere questi pericoli l'Unione Europea si è data l'AI Act, il primo regolamento che prova a disciplinare l'intelligenza artificiale generativa. Dopo l'accordo politico di dicembre 2023, il via libera definitivo è arrivato il 21 maggio 2024 con il voto favorevole di tutti i 27 Stati membri, Italia compresa.
Il regolamento poggia su due pilastri, sicurezza e trasparenza, e su una regola di base: più un sistema è rischioso, più i controlli sono stretti. Per questo l'AI Act distingue quattro livelli di rischio, compreso quello minimo o nullo.
Nel rischio inaccettabile rientrano le minacce dirette alle persone e alla loro incolumità, come la manipolazione cognitiva. Il rischio elevato riguarda i sistemi che possono ledere i diritti fondamentali o la sicurezza pubblica, mentre il rischio limitato copre i casi che devono rispettare requisiti minimi di trasparenza.
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo
