Domenico Ascione
Le nuove IA generative potranno essere usate per inviarvi e-mail spam e spiare i vostri social per conoscervi meglio
Ogni giorno, messaggi di principi nigeriani che vogliono rendere milionari, venditori di medicine miracolose, promotori di investimenti imperdibili e ragazze a pochi chilometri soffocano le caselle di posta elettronica. I miglioramenti ai filtri antispam sembrano solo ispirare nuove tecniche per superare le protezioni.
Ora, sta per emergere una nuova arma nell’arsenale dello spam: l’intelligenza artificiale generativa. Grazie ai recenti progressi dell’intelligenza artificiale resi celebri da ChatGPT, gli spammer potrebbero disporre di nuovi strumenti per eludere i filtri, catturare l’attenzione delle persone e convincerle a cliccare, acquistare o fornire informazioni personali.
Come funziona lo spam
Lo spam è definito come e-mail commerciali non richieste inviate da un’entità sconosciuta. Il termine viene talvolta esteso ai messaggi di testo, ai messaggi diretti sui social media e alle false recensioni sui prodotti. Gli spammer vogliono spingere l’utente ad agire: acquistare qualcosa, cliccare su link di phishing, installare malware o cambiare opinione.
Lo spam è redditizio. Un invio di e-mail può fruttare 1.000 euro in poche ore, con un costo per gli spammer di pochi spiccioli, esclusa la configurazione iniziale. Una campagna di spam farmaceutico online può generare circa 7.000 euro al giorno.
Anche gli inserzionisti legittimi vogliono spingere l’utente all’azione – acquistare i loro prodotti, partecipare ai loro sondaggi, iscriversi alle newsletter – ma mentre un’e-mail di marketing può rimandare a un sito web aziendale consolidato e contenere un’opzione di annullamento dell’iscrizione in conformità con le normative, un’e-mail di spam non può farlo.
Gli spammer, inoltre, non hanno accesso alle mailing list a cui gli utenti si sono iscritti. Al contrario, gli spammer utilizzano strategie controintuitive come la truffa del “principe nigeriano”, in cui un principe nigeriano afferma di aver bisogno del vostro aiuto per sbloccare un’assurda somma di denaro, promettendo di ricompensarvi in modo gentile. I nativi digitali più accorti respingono immediatamente tali richieste, ma l’assurdità della richiesta può in realtà selezionare l’ingenuità o l’età avanzata, filtrando le persone più inclini a cadere nelle truffe.
La nuova minaccia dell’IA
Grazie ai progressi dell’intelligenza artificiale, tuttavia, gli spammer potrebbero non essere costretti ad affidarsi a questi approcci. L’Intelligenza Artificiale potrebbe consentire loro di indirizzare gli individui e rendere i loro messaggi più persuasivi sulla base di informazioni facilmente accessibili, come i post sui social media.
Sia gli spammer che gli esperti di marketing trarrebbero vantaggio dal poter prevedere di più sulle persone con meno dati. Data il vostro profilo Facebook, qualche post e una o due immagini del profilo, gli spammer armati di IA generativa potrebbero fare ipotesi ragionevolmente accurate sulle vostre inclinazioni politiche, sullo stato civile o sulle priorità di vita.
La nostra ricerca ha dimostrato che questi bot possono essere utilizzati per prevedere la parola che una persona pronuncerà successivamente con un grado di accuratezza di gran lunga superiore ad altri approcci di IA, in un compito di generazione di parole chiamato compito di fluenza semantica.
Se gli spammer riescono a superare i filtri iniziali e a farvi leggere un’e-mail, a cliccare su un link o persino a partecipare a una conversazione, la loro capacità di applicare una persuasione personalizzata aumenta notevolmente. Anche in questo caso, le IA possono cambiare le carte in tavola. I primi risultati suggeriscono che possono essere utilizzate per argomentare in modo persuasivo su tematiche che vanno dalla politica alla sanità pubblica.
Minaccia o difesa?
L’intelligenza artificiale, tuttavia, non favorisce una parte o l’altra. Anche i filtri antispam dovrebbero beneficiare dei progressi dell’intelligenza artificiale, consentendo loro di erigere nuove barriere alle e-mail indesiderate.
Gli spammer spesso cercano di ingannare i filtri con caratteri speciali, parole sbagliate o testo nascosto, contando sulla propensione umana a perdonare piccole anomalie del testo. Tuttavia, man mano che l’intelligenza artificiale migliora la comprensione dei messaggi di spam, i filtri potrebbero diventare più efficaci nell’identificare e bloccare lo spam indesiderato, e forse anche nel far passare lo spam desiderato, come le e-mail di marketing a cui ci si è esplicitamente iscritti. Immaginate un filtro che preveda se volete leggere un’e-mail prima ancora di leggerla.
Nonostante le crescenti preoccupazioni sull’IA – come dimostrano l’amministratore delegato di Tesla, SpaceX e Twitter Elon Musk, il fondatore di Apple Steve Wozniak e altri leader del settore tecnologico che chiedono una pausa nello sviluppo dell’IA – i progressi di questa tecnologia potrebbero portare molto di buono. L’IA può aiutarci a capire come le debolezze del ragionamento umano possano essere sfruttate dai malintenzionati e a trovare modi per contrastare le attività malevole.
Tutte le nuove tecnologie possono generare meraviglia e pericolo. La differenza sta in chi crea e controlla gli strumenti e in che modo vengono utilizzati.