Attenzione se ChatGPT ti scrive questo messaggio: devi bloccare tutto subito

C’è un messaggio introdotto da ChatGPT nelle conversazioni con gli utenti che vale come segnale d’allarme. Di cosa si tratta.

Negli ultimi mesi OpenAI ha introdotto una nuova funzione: una reazione del chatbot alle azioni dell’utente collegato. In pratica, abbiamo a che fare con un messaggio inaspettato che appare in una finestra. Un contenuto inviato all’utente allorquando ChatGPT è in grado di rilevare un certo tipo di comportamento censurabile.

Si tratta del “Just checking in“. Tradotto: “Solo per controllare…“. C’è da preoccuparsi? Non è un avviso tecnico, né un blocco. Open AI lo ha presentato come una sorta di promemoria etico. E scatta nel momento in cui un utente conversa troppo a lungo con ChatGPT.

Il messaggio esteso è questo: “Just checking in. You’ve been chatting for a while — is this a good time for a break?” Ovvero: “Solo per controllare. Stai chattando da un po’: è un buon momento per fare una pausa?”. E nelle conversazioni in italiano, ovviamente, il chatbot usa la formula nel nostro idioma.

Si tratta quindi di un invito, espresso con gentilezza e tatto, ma con un contenuto chiaro. Il chatbot chiede all’utente di staccarsi dallo schermo. Alcuni utenti passano ore e ore a conversare con l’AI, e spesso di argomenti futili. Ciò, oltre a rappresentare un costo eccessivo per Open AI e uno spreco incredibile di risorse, è anche un campanello di allarme per la salute mentale degli utenti.

Dopo alcune inchieste giornalistiche (tra cui un’inchiesta del New York Times che ha fatto molto discutere), OpenAI ha riconosciuto che ChatGPT non sempre riusciva a cogliere questi segnali di disagio emotivo. Il messaggio “Just checking in” è quindi una risposta concreta a una situazione delicata.

Cosa fare quando appare il messaggio di ChatGPT “Just checking in“

Il messaggio non implica un segnale di errore e non significa che l’utente debba per forza smettere di chattare con l’AI. Non si tratta neanche di un giudizio. L’intelligenza artificiale non può infatti valutare se l’utente sta attraversando davvero una fase di disagio o se il suo uso del chatbot è compulsivo.

Ma è comunque importante che, in base al tempo trascorso sul programma, Open AI si preoccupi di rivelare un comportamento poco sano. E dunque che provi a curare la persona che c’è dall’altra parte. Anche altre piattaforme, come per esempio la Nintendo e YouTube, hanno introdotto funzioni simili. Già vent’anni fa, la Nintendo cominciò a introdurre messaggi di pausa nei videogiochi. Tipo: “Hai giocato per un po’. Forse è il momento di fare una pausa”.

Con le AI l’analisi è più profonda. ChatGPT sa riconoscere e valutare la durata e l’intensità della conversazione. E capiscono quando è il momento di consigliare un momento di riflessione o pausa. Ricordando all’utente che, dietro di lui, c’è il mondo reale.