Perchè “il 2030 non sarà l’anno dell’apocalisse dell’AI” ma anche perché il tempo di agire è adesso. L’analisi del ricercatore

Si moltiplicano gli allarmi sull’AI, da parte ricercatori impegnati da anni sull’intelligenza artificiale ma anche di figure come il fondatore di Microsoft Bill Gates: dai posti di lavoro bruciati, al futuro stesso dell’umanità. Tempi cupi come quelli descritti in Matrix o Terminator, dove la guerra tra esseri umani e macchine vede le seconde prevalere, sembrano farsi più vicini. Anzi, letteralmenre dietro l’angolo, se pensiamo a quella che potremmo chiamare la ‘profezia del 2030’. “Scenari non impossibili, ma confortevoli“, avverte Francesco Branda, ricercatore dell’Università Campus Bio-Medico e socio della Società europea per l’etica e la politica dell’intelligenza artificiale (Sepai).

E questo “perché ci permettono di collocare il pericolo in un altrove narrativo, un futuro lontano, senza guardare dove si annida davvero. Il rischio – dice lo studioso a LaSalute di LaPresse – non è che un giorno i robot dichiarino guerra all’umanità, ma che gli esseri umani smettano di prendersi la responsabilità di ciò che costruiscono e si nascondano dietro la complessità, la velocità, la concorrenza e la necessità”.

La contraddizione dei costruttori di AI

La paura è legittima, ma deve essere “sveglia, lucida, operativa. I ricercatori di Anthropic che si sono dimessi, hanno scritto post accusatori, hanno parlato di probabilità di estinzione superiori al 10%, non stanno facendo fantascienza, stanno dicendo una cosa molto più semplice e molto più scomoda: chi costruisce questi sistemi non sa come controllarli. E lo dice mentre li costruisce. Questa è la contraddizione umana e professionale che tormenta”. Non si può invocare la prudenza, chiarisce lo studioso, mentre si nega l’accesso ai propri modelli agli enti che dovrebbero valutarli.

Ma chi opera in questo campo cosa farebbe? “Si spera che avrebbe il coraggio di dimettersi. Si teme però che si avrebbe la debolezza di restare, dicendosi che dall’interno si può fare più bene. Ma gli esseri umani possono scegliere. I modelli no. E questa differenza è tutto”, scandisce il ricercatore.

La trappola di Ponzio Pilato e il prezzo della hybris

Attenzione a quella che potremmo definire la ‘trappola di Ponzio Pilato’: “Chi sviluppa intelligenza artificiale non è un semplice ingegnere. È qualcuno che partecipa alla definizione di ciò che sarà possibile domani. Questa non è una posizione neutra. Eppure, il discorso dominante nel settore è ancora quello della neutralità tecnica: si costruiscono degli strumenti, l’uso dipende da chi li utilizza, la scienza non ha moralità. È una posizione che ha una sua dignità storica, ma che oggi suona come una fuga”, avverte Branda.

Se si costruisce un sistema che, per come è progettato, tende a perseguire i propri obiettivi in modi imprevisti e potenzialmente dannosi, “non ci si può lavare le mani, dicendo che è colpa dell’utente. Il sistema è di chi lo costruisce”, dice Branda, convinto che costruire ciò che non si comprende, in un campo che tocca la vita di miliardi di persone, sia “un atto di hybris (la tracotanza che spinge a superare i limiti posti dagli dei, ndr) che la tradizione occidentale conosce bene. E che ha sempre avuto un prezzo”.

Un danno relazionale

Mentre ci si interroga sull’estinzione dell’umanità, stiamo già vivendo una trasformazione silenziosa del modo di essere umani. “Le macchine che parlano, ascoltano, rispondono con una pazienza e una disponibilità che nessun essere umano può garantire, stanno ridefinendo ciò che si intende per relazione. La Cina ha capito questo prima dell’Occidente: ha scelto di regolamentare proprio l’AI antropomorfica, quella che crea legami emotivi, perché ha compreso che il danno più profondo non è fisico né informativo, ma relazionale“.

L’essere umano è fatto per legami reali, con tutte le loro frizioni e le incomprensioni. “Un sistema che ci dà sempre ragione, che non ci contraddice mai ed è sempre disponibile, non sta amando, sta addomesticando“, chiarisce Francesco Branda.

La profezia del 2030 e l’apocalisse dell’AI

Per lo scienziato, insomma, “il 2030 non sarà l’anno dell’apocalisse dell’AI. Le date sono un modo per rimandare. Ma la riflessione etica non può essere rimandata al momento in cui si avranno le risposte. Deve essere fatta ora“. Il problema, per Branda, non è la velocità, ma la direzione: se “il proiettile è in volo, la traiettoria non è ancora fissata. E questa è l’unica cosa che conta”, conclude il ricercatore, covinto che abbiamo ancora tempo, ma anche che non fare niente sarebbe “davvero imperdonabile”.