Siamo in un momento storico nel quale il rapporto tra nuove tecnologie, nuovi (seppur non nuovissimi) media e ragazzi è particolarmente teso e indagato. Da un paio d’anni, per esempio, Meta è coinvolta in migliaia di cause legali negli Stati Uniti che l’accusano di aver creato volontariamente dei prodotti (Instagram e Facebook) che creano dipendenza, specialmente negli utenti più giovani, causando tra le altre cose ansia e depressione.

Martedì 18 agosto è dunque iniziato un nuovo processo a Oakland, in California, che è finora il più importante per numero di stati coinvolti e per l’entità del risarcimento richiesto: circa 1.400 miliardi di dollari, una cifra quasi equivalente al valore complessivo delle azioni di Meta quotate in borsa. Se Meta dovesse perdere la causa, il pagamento di una somma del genere comporterebbe il fallimento dell’azienda e il suo passaggio sotto il controllo statale. James Grimmelmann, professore di diritto alla Cornell Law School, ha detto all’Associated Press che la richiesta è più che altro simbolica, visto che l’azienda "non ha tutti quei soldi e non potrebbe ottenerli".

In parallelo, ad aprile di quest'anno è stata presentata l'app europea per la verifica dell'età online, che è tecnicamente pronta e dovrebbe essere lanciata a breve. Un'applicazione gratuita, sicura, pensata per impedire ai minori di accedere liberamente alle piattaforme social senza alcun controllo. “Crescere i figli spetta ai genitori, non alle piattaforme”, ha dichiarato la presidente della Commissione europea Ursula von der Leyen, promotrice dell'app, che arriva, di nuovo, in una fase nella quale diverse nazioni del vecchio continente stanno già provando, in modo autonomo, a vietare per legge i social ai minori di 15 anni (come in Francia, ma la proposta di legge voluta dal governo Macron non ha, per ora, passato l'esame della Corte Costituzionale), o di 16 anni (come si vorrebbe fare in Norvegia). Hanno detto di voler introdurre un divieto analogo a quello francese (che, ripetiamo, è attualmente in stallo) anche Spagna e Regno Unito, che hanno citato esplicitamente come modello l’Australia, primo paese a introdurre una regolamentazione di questo tipo.

Dalla dipendenza dai social al rapporto con l’intelligenza artificiale

Per i social media ci sono voluti sedici anni (lasciando perdere Facebook, ben più anziano, Instagram è nato nel 2010) per arrivare a un simile livello di allarme, mentre per quanto riguarda l'AI e in chatbot, in particolare ChatGPT, sono bastati quattro anni per cominciare sia ad osservare pericolose derive nell'uso che ne stanno facendo gli adolescenti, sia per provare a intervenire e prevenire danni ulteriori. E parliamo di "danni" perché se Meta ha il suo maxi processo da affrontare, anche OpenAI è stato portato in giudizio dalle famiglie di alcuni minori che purtroppo si sono tolti la vita dopo aver intessuto un rapporto morboso e ossessivo con un chatbot. Chatbot al quale i ragazzi avevano praticamente affidato la propria vita.

Secondo diversi articoli (uno, molto famoso, uscito due anni fa su Nature, uno dello scorso febbraio sul Time a firma della psicologa Maytal Eyal, uno di Dazed di un paio d'anni fa, fino uno recentissimo de Il Post) oggi sembrano essere tantissime le persone, e in particolare quelle più giovani, ad aver iniziato ad usare l'Intelligenza Artificiale come consigliere per problemi emotivi e sentimentali, o addirittura come terapeuta. Un terapeuta che oltretutto, come fa notare la stessa Eyal, "è più economico, disponibile 24 ore su 24, 7 giorni su 7, che non ha mai bisogno di una vacanza, di un giorno di malattia o di chiudere lo studio per il congedo di maternità".

Anche in Italia il presidente dell’Ordine degli Psicologi Italiani ha espresso tutta la sua preoccupazione per il fatto che in un panorama dove ancora mancano certezze sullo psicologo scolastico e quello di base, e dove, quindi, non tutti possano permettersi un aiuto a pagamento, in particolare i più giovani decidano di affidarsi a un chatbot per stare meglio o semplicemente per sentirsi meno soli. C0n il rischio di dire solo a lui o lei cosa li tormenta e fino a che punto.

Che cos’è ChatGPT for Teens e perché nasce ora

Di fronte a questo scenario fosco, OpenAI è corsa ai ripari, lanciando ChatGPT for Teens, nuovo servizio destinato agli utenti tra 13 e 17 anni che in teoria dovrebbe mettere insieme strumenti educativi, controlli parentali e protezioni più severe attivate automaticamente.

La questione non riguarda solo i contenuti pericolosi. Riguarda il design: pause, limiti, rapporti emotivi con la macchina, tempo trascorso a conversare. È lo stesso terreno sul quale l’Europa sta contestando ai social network meccanismi capaci di generare dipendenza. Detto ciò, molte delle tecnologie annunciate da OpenAI esistevano già. ChatGPT for Teens le raccoglie ora dentro un’unica esperienza pensata esplicitamente per gli adolescenti. Tuttavia il primo appunto che si può fare all'operazione è che questa nuova veste dell’algoritmo di AI arriva quando gli adolescenti già usano in maniera massiccia quella per tutti. L’intelligenza artificiale, usata, come abbiamo visto, come confidente o terapeuta, oppure come basico strumento per avere informazioni o per ricevere aiuto per i compiti a casa, è di fatto una presenza costante e talvolta invasiva anche vita dei giovanissimi. Difficile, quindi, pensare di poter arginare alcuni fenomeni mettendo soltanto oggi dei limiti.

Quali protezioni sono previste per gli adolescenti

Ciò detto, vediamo quali sono, nei fatti, questi limiti. Il primo riguarda alcune protezioni che dovrebbero scattare in modo automatico in base all’età dell’utente, cioè gli under 18. Il modello applica restrizioni più forti quando la conversazione entra in aree considerate ad alto rischio: autolesionismo, violenza, disturbi alimentari, attività pericolose, contenuti sessualmente espliciti o particolarmente cruenti. C’è poi un problema più nuovo: la relazione con la macchina. OpenAI ha rafforzato le istruzioni che impediscono al chatbot di presentarsi come cosciente, suggerire di avere sentimenti personali per l’utente o alimentare una dipendenza emotiva. L’idea è mantenere chiara una frontiera che con i chatbot diventa più sfumata: TikTok deve convincerti a guardare un altro video, ChatGPT può parlarti per ore e ricordare il contesto della conversazione. Per questo arrivano anche promemoria per effettuare pause più frequenti e le Quiet Hours, fasce orarie nelle quali si può limitare l’utilizzo. I genitori che collegano il proprio account a quello del figlio possono modificare alcune impostazioni e ricevere notifiche in un numero limitato di situazioni considerate ad alto rischio. Non possono però leggere liberamente le conversazioni del ragazzo.

Study Mode, l’AI che dovrebbe aiutare a ragionare invece di dare le risposte

La parte più sostanziosa del nuovo ChatGPT riguarda la scuola, e si chiama Study Mode. In pratica, con Study Mode, che potrà scattare automaticamente in certe fasce orarie impostate dalla famiglia, i ragazzi dovrebbero essere indotti dall’AI a porre domande in sequenza progressiva, arrivando alle soluzioni in modo consequenziale: l’obiettivo, quindi, sarebbe di farli “ragionare” senza fornire loro risposte veloci e pronte all’uso. Per evitare facili “scorciatoie”, inoltre, si prevedono passaggi intermedi nello svolgimento dei compiti, prima della risposta finale.

Come fa ChatGPT a capire se un utente è minorenne?

Tutto il sistema ha però bisogno di rispondere a una domanda apparentemente banale: quanti anni hai davvero? OpenAI utilizza un approccio su più livelli. C’è innanzitutto l’età dichiarata dall’utente. A questa si aggiunge l’age estimation, un modello di intelligenza artificiale che prova a stimare se dietro l’account ci sia un minorenne utilizzando segnali associati all’account e al comportamento nel tempo. Se ChatGPT ritiene che l’utente abbia meno di 18 anni, applica automaticamente le protezioni previste per gli adolescenti. Il sistema non deve quindi capire l’età da una singola frase. L’obiettivo è ricostruirla utilizzando più segnali. Se invece viene classificato come adolescente un adulto, entra in gioco il terzo livello, la verifica dell’età, che permette di dimostrare di essere maggiorenne e uscire dall’esperienza protetta.

I dubbi sulla stima dell’età e sulla privacy

Ed è probabilmente questo il punto tecnologicamente ma anche eticamente più delicato di tutta l’operazione. Il sistema di stima dell’età sta, infatti, già sollevando i primi dubbi. Secondo Andrea Monti, professore di Identità digitale, privacy e cybersecurity alla Sapienza di Roma, il metodo scelto da OpenAI non è affidabile dal punto di vista giuridico. "Questa opzione - ha detto a Domani - peraltro ipotizzata anche da altri fornitori di servizi di piattaforma, è priva di senso", sostiene. In Italia, spiega, l’età si accerta attraverso un documento di identità. Online, "l'identità può essere verificata tramite Spid e, quando sarà pienamente funzionante, tramite il wallet europeo del quale l'italiano IT Wallet rappresenta un’applicazione in avanzato stato di realizzazione". Il ricorso ad altri sistemi, in particolare alla valutazione dell'età attraverso parametri biometrici, "non ha un reale valore giuridico e serve essenzialmente ad accumulare ancora più dati su una persona".

ChatGPT for Teens lascia ancora molte domande aperte

Per quel che ne sappiamo finora, dunque ChatGPT for Teens lascia alcune domande senza risposta. Tra le quali: quanto sarà precisa questa "previsione dell’età"? Quanto facilmente un adolescente potrà aggirare le protezioni? E, domanda che anche se il sistema dovesse risultare la migliore versione possibile di sé stesso dovranno comunque farsi i genitori, quale quantità di conversazione quotidiana con un’intelligenza artificiale possiamo considerare sana per un adolescente?