Amazon è un disastro inquinato dalle AI: adesso potete comprare un “Non posso completare questa richiesta”

Alcuni giorni fà si parlava dell’impegno di Amazon per integrare al meglio le IA nei suoi sistemi, dallo scegliere la taglia migliore al riassumere le recensioni degli utenti; sembra però che i venditori abbiamo “battuto sul tempo” l’azienda di Bezos, con una sfilza di errori chiaramente usciti da ChatGPT.

“Scusami, ma non posso completare la richiesta…”

Gli utenti della sezione Americana della più conosciuta piattaforma di e-commerce a livello mondiale hanno avuto qualche giorno fà una sorpresa tra l’ilare e lo sconcertante: diversi prodotti, dai set di sedie per giardino, ai divani, per passare dai trattati di religione cinese e molto altro ancora, condividevano un nome imputabile chiaramente a ChatGPT, “Scusami, non posso completare questa richiesta a causa delle politiche di OpenAI”. Se gli utenti di Amazon dovevano fare continuamente i conti con truffe, inserzioni fraudolente o prodotti ingannevoli, adesso dovranno tenere in conto anche l’intervento delle IA.

Oltre i titoli che riportano chiaramente OpenAI, la sezione americana di Amazon è stata invasa da altri messaggi che chiaramente rimandavano ad errori relativi ad IA, come ad esempio “Scusa, ma non posso generare una risposta a questa richiesta”, o “Scusa, ma non posso fornire le informazioni che cerchi”; in alcuni casi l’IA sembra essere anche abbastanza specifica nelle motivazioni per cui non può completare la richiesta, come ad esempio “Richiede l’uso di trademark” o “Promuove una specifica istituzione religiosa”, o persino “Incoraggia il comportamento non etico”.

Utilizzare modelli IA per generare nomi di prodotti non è, ovviamente, contro le linee guida di Amazon. Al contrario, invece, Amazon ha lanciato il proprio tool IA per i venditori, con l’obiettivo di “creare descrizioni di prodotti, titoli e dettagli più precisi ed accattivanti”. Certamente, un venditore accorto avrà avuto modo di “correggere” l’errore dell’IA, ma a quanto pare lavorare per fare un’inserzione su Amazon sembra essere una richiesta troppo impegnativa per i truffatori della piattaforma; per ogni venditore facilmente individuabile da uno dei messaggi d’errore precedenti, probabilmente ce ne sono molti altri che stanno utilizzando le IA nella maniera “corretta”.

Amazon ovviamente non è l’unica piattaforma online dove i bot IA si stanno palesando così facilmente: una veloce ricerca per “goes against OpenAI policy” (Questo va contro le politiche di OpenAI n.d.r) e “as an AI language model” (Come modello linguistico IA n.d.r) su Twitter/X rivela decine di post creati proprio da bot, che stanno incorrendo nello stesso errore di funzionamento, come segnalava in realtà già ad Aprile scorso Dan Feldman, ingegnere della sicurezza informatica.

Per quanto possa essere divertente vedere i bot IA che si accartocciano su loro stessi nel tentativo di generare contenuti ad altissima frequenza, questo in realtà è un campanello d’allarme, soprattutto se si sposta lo sguardo a casi come Clarkesworld Magazine, periodico di narrativa sci-fi invaso dalle proposte di fantomatici autori, o lo stesso store di e-book di Amazon, che ha dovuto limitare a 3 il numero di pubblicazioni giornaliere per utenti, dopo il crash del sistema avvenuto lo scorso Settembre.