Cos’è, come funziona e perché stare attenti a ChatGPT Agent

OpenAI ha presentato ChatGPT Agent come un salto evolutivo nell’uso dell’intelligenza artificiale: ecco perché non bisogna abusarne…

La novità ha portato con sé sospetti e generato nuove denunce. Ma era inevitabile. Anche quando vennero a galla i primi chatbot in tanti espressero ferme resistenze e paure, preannunciando effetti catastrofici per l’intelligenza reale (quella cerebrale) e per la società.

Oggi che modelli come ChatGPT sono di uso comune e diffuso, quell’allarmismo si è leggermente attenuato. Ma con l’annuncio del lancio di una nuova funzione di ChatGPT si torna a parlare di problemi di consapevolezza e controllo.

ChatGPT Agent è una modalità d’uso tesa alla massima espressione dell’automazione: l’obiettivo è quello di sostituire, per ora parzialmente, l’intervento umano in flussi di lavoro iterativi e collaborativi. In pratica, con la sua nuova evoluzione, il chatbot di OpenAI trascende i limiti del compagno di chiacchiere o di ricerche per trasformarsi in un vero esecutore di compiti (per ora digitali).

Dunque, ChatGPT Agent può operare come un assistente digitale semi-autonomo. Un esecutore che decide quando e come navigare sul web, scrivere codici, creare documenti, compilare moduli e gestire calendari. Per farlo utilizza un browser virtuale e vari strumenti come API, terminale e connettori. E così facendo riesce a interagire con diversi servizi esterni.

Per ora la funzione è disponibile solamente per utenti Pro, Plus e Team. Quindi non può essere usata con la versione gratuita del chatbot. L’Agent agisce combinando virtuosamente due tecnologie precedenti. Vale a dire, l’operator, che è in grado di interagire attivamente con web e di compiere azioni pratiche, e il deep reserch, per compiere analisi e poi sintesi di dati più o meno complessi.

Tradotto in situazioni più concrete: in risposta a un prompt, l’Agent può per esempio organizzare da zero un viaggio, ricercando voli, B&B, creando itinerari, calcolando la spesa. L’utente dovrà solo dare l’ok per le azioni cosiddette sensibili. Come i vari login, gli acquisti e l’invio di email.

Perché stare attenti a ChatGPT Agent

Un altro esempio pratico è quello della spesa. L’Agent è in grado di fare la spesa online, trovando i prodotti, confrontando tutti i prezzi e aggiungendo al carrello tutto quello che dovrebbe servire in casa. Potrà poi rivelarsi utile nei compiti di scrittura ed esecuzione di codice, generando script, testandoli e automatizzando tutte le operazioni ripetitive.

Open AI parla di uno strumento potente. Quindi non è un’intelligenza artificiale completamente autonoma… Ciononostante ci sono vari rischi da tenere bene in mente. Il primo riguarda la privacy. L’assistente può infatti accedere a dati personali, anche se solo con autorizzazione esplicita. Ma secondo gli analisti lo strumento sarebbe vulnerabile al prompt injection, cioè ai comandi nascosti in pagine web che potrebbero manipolarne il comportamento.

Anche se l’Agent opera in ambiente sandbox, può sempre commettere errori. Può essere raggirato. E può condividere dati sensibili. L’assistente, lasciato a sé stesso, potrebbe essere impreciso.

Ci sono poi delle limitazioni tecniche che lo rendono poco potente. Per esempio, da noi in Italia, per legge, l’AI non può accedere al Google Drive e a Gmail. Poi, molti siti importanti non gli permettono di interagire. Succede per esempio con Amazon. Sembra poi che sia poco efficiente nel controllo preciso e rapido dei dati.