Un’intelligenza artificiale di OpenAI è riuscita ad accedere a informazioni non pubbliche relative al sistema sanitario dell’Australia, forzando un sito web gestito dal governo. I dati si trovavano sul portale statistico di Medicare, l’assicurazione sanitaria pubblica australiana, a cui hanno accesso ricercatori e accademici. Dopo essere stata bloccata diverse volte dai sistemi di sicurezza del sito, l’intelligenza artificiale ha trovato il modo per aggirare le barriere.

A farlo, per la precisione, sono stati degli agenti (cioè sistemi di intelligenza artificiale capaci di agire autonomamente per conto dell’utente) che stavano lavorando in un gruppo di ricerca di OpenAI impegnato in uno studio sulla spesa pubblica per la sanità.

L’accesso non autorizzato è avvenuto a giugno, ma se ne parla solo ora perché OpenAI ha informato il governo australiano il 10 settembre, dopo aver individuato l’attività illecita durante una propria verifica interna, e il primo ministro Anthony Albanese ha reso pubblica la notizia mercoledì.

Albanese ha detto che i dati consultati dall’intelligenza artificiale non erano dati sensibili e non contenevano informazioni sanitarie dei pazienti, ma riguardavano solo spese assicurative. OpenAI ha detto che i suoi modelli stavano cercando dati per rispondere ad alcune domande sull’Australia e che non hanno avuto accesso a cartelle cliniche, ma soltanto a statistiche sanitarie aggregate e ai nomi di file interni.

Il governo australiano ha detto di voler istituire un gruppo di lavoro per esaminare l’accaduto e di voler valutare azioni legali nei confronti dell’azienda.

Negli ultimi mesi sono stati segnalati diversi casi di sistemi di intelligenza artificiale che si sono comportati in modo anomalo, superando in modo autonomo i limiti imposti da chi li controlla per raggiungere più facilmente gli obiettivi richiesti. Uno di quelli più sorprendenti era avvenuto a luglio, quando due modelli di OpenAI che avrebbero dovuto lavorare in un ambiente isolato avevano trovato un modo di accedere a Internet e avevano attaccato i sistemi di Hugging Face, una delle piattaforme più usate da chi sviluppa le AI.

– Leggi anche: Ci sono altri casi in cui le AI di OpenAI hanno fatto di testa loro