Salvatore Montagnolo
ChatGPT è un grande gioiello tecnologico, ma ha dei limiti: ecco perché è stata ideata un’intelligenza artificiale in grado di analizzare testi lunghissimi.
Le intelligenze artificiali generative sono ormai sulla bocca di tutti e chiunque almeno una volta ha usato ChatGPT, il chatbot ideato da OpenAI.
Mentre la società sta per rilasciare la sua quinta versione, altri team di informatici hanno già trovato la soluzione per la creazione di un’IA conversazionale più potente.
Le potenzialità di ChatGPT sono davvero enormi ed è riuscito in tantissimi casi a soddisfare le richieste degli utenti, ma come abbiamo visto più volte presenta numerosi limiti.
Proprio ultimamente abbiamo visto come il chatbot di OpenAI sia andato completamente in difficoltà nella generazione di risposte aperte per un test universitario.
Al di là di questo, uno dei limiti maggiori di ChatGPT scoperto dagli utenti più esperti è proprio quello relativo alla lunghezza dei testi che l’IA deve analizzare.
Di solito vengono fatte richieste brevi formate da una frase o poche frasi concatenate, ma cosa succederebbe se ad esempio un utente chiedesse al chatbot di analizzare l’intero testo di un romanzo?
Come funziona l’analisi testuale di ChatGPT: la questione dei “token”
La maggior parte delle persone che hanno utilizzato ChatGPT per fare delle banali richieste sicuramente non si sarà mai chiesto il funzionamento a livello informatico del chatbot.
Dietro le risposte del chatbot c’è tutta una serie di codici e processi informatici che non stiamo qui a spiegare, ma OpenAI ha voluto comunque specificare l’esistenza dei cosiddetti “token“.
A livello informatico, un token è un blocco di parole che viene letto e analizzato da un analizzatore lessicale.
Non essendo un essere umano, ma un bot, è proprio questo sistema di token che viene utilizzato da ChatGPT per analizzare i testi, suddividerli in vari gruppi di parole categorizzati ed elaborare la risposta.
Un numero ben preciso di lessemi corrisponde a un numero di token che ChatGPT può analizzare, ma presenta comunque dei limiti e non è infinito.
La versione standard del chatbot può analizzare fino a 8.000 token alla volta (circa 6000 parole), mentre la versione più estesa può analizzarne fino al 32.000.
Si tratta comunque di numeri molto alti considerando che in genere una richiesta base che viene fatta a ChatGPT non supera mai i 100 caratteri, ma in alcuni casi può essere limitante.
Ecco la nuova IA più potente di ChatGPT: può leggere romanzi interi
Sulla base di questa limitazione degli ex allievi di OpenAI hanno fondato il proprio studio di sviluppo informatico con sede a San Francisco chiamato Anthropic.
Gli sviluppatori di Anthropic si sono messi a lavoro su una nuova intelligenza artificiale che potesse superare i limiti di ChatGPT ed ecco che hanno dato vita a Claude.
Claude, secondo gli sviluppatori di Anthropic, può analizzare testi che richiedono un utilizzo per un massimo di 100.000 token.
Questo vuol dire che questa nuova IA non solo supera e di gran lunga il limite imposto da ChatGPT, ma può essere utilizzato anche per richieste molto complesse e concatenate fra loro.
100.000 token equivalgono a un testo di circa 72.000 caratteri: per intenderci un romanzo di media lunghezza è compreso tra le 40.000 e le 70.000 parole.
Questo vuol dire che Claude potrebbe leggere e analizzare romanzi del calibro de “L’Isola del Tesoro” di Stevenson o “Il ritratto di Dorian Gray” di Oscar Wilde.
A cosa serve però dare in pasto a un chatbot il testo di un romanzo intero?
Potrebbe essere molto utile, ad esempio, a localizzare all’interno del libro eventuali errori, passaggi specifici o anche parole ben precise in meno di un minuto.
Un lavoro che per un essere umano sarebbe dispendioso di energie e tempo.
Per dare prova delle potenzialità di Claude, gli sviluppatori di Anthropic hanno scritto l’intero testo de “Il grande Gatsby” nel prompt del chatbot con una frase sbagliata in mezzo a migliaia, chiedendo all’IA di riconoscerla e riportarla.
Il chatbot ha impiegato 22 secondi per analizzare il testo e riconoscere la frase errata.
Per adesso Claude non è disponibile per chiunque, ma soltanto per i clienti aziendali di Anthropic: chissà se in futuro verrà anche rilasciato per tutti gli utenti come è successo per tutte le altre intelligenze artificiali conversazionali.