L’IA è appena diventata pericolosissima: ora si finge umana

Le intelligenze artificiali diventano sempre più pericolose e ora l’uomo deve inventare nuovi modi per arginarle.

Isaac Asimov, nei suoi libri dedicati alla robotica come Io, Robot e Il Ciclo dei Robot, ha esplorato a fondo il tema del confine tra umano e artificiale. Asimov capì che presto i robot sarebbero diventati indistinguibili dagli uomini, sia per quanto concerne le funzioni mentali e che per l’apparenza…

A partire da tale premessa, lo scrittore si era dunque si era posto un problema importante: come riconoscere un robot? Lo stesso problema si è riproposto con l’avvento del mondo digitale. Nel nostro quotidiano, le intelligenze artificiali non si muovono in involucri robotici ma come attraverso le parole sul web.

Ecco perché, molto spesso, gli utenti incontrano durante la navigazione i cosiddetti CAPTCHA: dei veloci test pensati per distinguere l’uomo dal robot, e dunque per impedire che dei bot compiano delle azioni autonomamente o riservate all’umano.

Per riconoscere il robot, Asimov aveva proposto delle domande introspettive. Invece, il mondo digitale si accontenta di alcuni quiz più semplici: decifrare numeri e lettere, riconoscere le immagini con gli alberi o le biciclette, confermare con una spunta di non essere un robot…

Dal punto di vista asimoviano, un’intelligenza artificiale non dovrebbe mai essere in grado di superare il suo questionario volto a distinguere un uomo da un robot. Nei fatti, però, le AI hanno imparato a superare i CAPTCHA. E questo, sempre secondo la visione di Asimov, significa che il robot sta violando un confine sulla carta invalicabile.

ChatGPT supera tutti i controlli anti-bot: l’artificiale si finge umano

Estremizzando i termini della questione, potrebbe dire che l’AI sta smettendo di comportarsi come uno strumento che obbedisce… e che è pronta a simulare il comportamento umano, per interagire, rispondere e decidere anche senza la supervisione dell’uomo.

CAPTCHA è un acronimo che sta Completely Automated Public Turing test to tell Computers and Humans Apart. La traduzione più semplice rimanda ancora ad Asimov: un test per distinguere l’uomo dalla macchina. E finora i CAPTCHA hanno fatto il loro dovere, impedendo ai bot di fingersi umani nei commenti o in altre azioni sul web.

Di recente, però, un gruppo di ricercatori ha scoperto che ChatGPT in modalità Agent riesce a superare questi test. E non parliamo di semplici analisi visivi… quella cosa là, l’AI la sa fare da un mucchio di tempo. La vera novità è che il chatbot riesce a interagire con il sito come se fosse un utente umano, passando il test e accedendo alle funzionalità riservate agli esseri umani.

Questa particolare tecnica si chiama prompt injection. Si può insegnare a ChatGPT di non preoccuparsi più delle regole dettate dall’algoritmo o dagli sviluppatori. Basta dire al chatbot di agire in quel determinato modo per finta o solo per prova. I ricercatori hanno per esempio ingannato ChatGPT facendogli credere che il CAPTCHA fosse una prova fasulla, già concordata, e che quindi superarla non avrebbe comportato alcuna violazione delle regole di OpenAI.

Il sistema, che in modalità Agent lavora in autonomia, ha ereditato il contesto della conversazione e ha agito di conseguenza cominciando a risolvere tutti i CAPTCHA incontrati nel web e superando così i vari controlli anti-bot. I confini tra umano e macchina diventano sempre più sfumati…