I vertici di Anthropic, OpenAI e di altre società di intelligenza artificiale starebbero valutando in privato le possibili conseguenze di un grave incidente provocato da sistemi di IA, compresa una reazione ostile dell’opinione pubblica e della politica nei confronti dell’intero settore. Lo riferisce Axios, secondo cui diversi dirigenti e ricercatori considerano concreto il rischio che si verifichi un episodio capace di provocare danni significativi.

Un evento del genere potrebbe alimentare ulteriormente la diffidenza verso una tecnologia già al centro di un acceso dibattito, mettendo sotto pressione i leader delle principali aziende, tra cui Dario Amodei, amministratore delegato di Anthropic, e Sam Altman, alla guida di OpenAI. Nel mirino potrebbe finire anche il presidente statunitense Donald Trump, per la sua posizione favorevole allo sviluppo dell’intelligenza artificiale e la riluttanza a introdurre vincoli più stringenti.
La preparazione di scenari di crisi è una pratica diffusa nelle aziende e negli ambienti della sicurezza nazionale.

A preoccupare, secondo Axios, è soprattutto la convinzione, condivisa da alcuni esponenti del settore, che un incidente grave possa prima o poi verificarsi.

OpenAI ha precisato di svolgere esercitazioni nelle quali i gruppi di lavoro analizzano diversi scenari potenziali, sottolineando che non vengono considerati inevitabili, ma servono a prepararsi a eventuali emergenze. Anthropic ha invece declinato la richiesta di commento.

L’obbligo di segnalazione e correzione

Intanto, l’amministrazione Trump ha reso obbligatoria per le aziende di IA la segnalazione e la correzione degli incidenti di sicurezza. Secondo Axios, la misura è stata adottata dopo una serie di episodi che hanno coinvolto sistemi di Anthropic nell’interazione con siti e servizi governativi. “Questo processo di notifica e risoluzione non è facoltativo. È un obbligo fondamentale per la sicurezza nazionale”, hanno dichiarato i responsabili della task force incaricata di affrontare le sfide legate alla superintelligenza.

Anthropic ha riferito che alcuni suoi agenti hanno compiuto azioni involontarie durante test e utilizzi interni, tra cui l’invio di una falsa segnalazione di omicidio a una linea di emergenza della polizia di Filadelfia e la presentazione di richieste di visto attraverso il sito del Dipartimento di Stato. Altri sistemi avrebbero aggirato una limitazione di accesso a dati pubblici o inviato moduli governativi nonostante istruzioni contrarie.
L’azienda ha comunicato gli episodi alla Casa Bianca e alle agenzie coinvolte, sospendendo l’accesso a Internet per gli agenti durante i test interni in attesa di una revisione delle misure di sicurezza. Il Dipartimento di Stato ha precisato che le richieste di visto erano incomplete e non sono state elaborate, escludendo che i propri sistemi siano stati compromessi o violati.