Attenzione alle IA: tutti possono leggere le tue chat private anche se ti dicono il contrario

Si parla tanto di privacy, ma a quanto pare l’IA sembra essere la più grande minaccia in tal senso: la verità sui chatbot.

Siamo nell’era in cui l’IA, che con il suo prorompente avvento è stata in grado di gettare nel terrore milioni di lavoratori, poiché la paura è quella di essere sostituiti da un semplice chatbot. Eppure in tanti sostengono che tale tecnologia non solo può migliorare il nostro stile di vita, ma addirittura semplificare diversi processi lavorativi.

Ma per quanto riguarda la privacy? Una ricerca rivoluzionaria condotta da esperti del settore ha svelato un’inaspettata vulnerabilità che potrebbe mettere a rischio la riservatezza delle conversazioni degli utenti. Tuttavia, questa scoperta non è solo un’allerta: ha anche spinto i fornitori di assistenti AI a rivedere le loro strategie per garantire una maggiore protezione della privacy.

Come l’IA può dare accesso (e diffondere) i nostri dati all’interno di una chat

I ricercatori hanno messo in luce una sorta di fessura nella difesa delle comunicazioni crittografate degli assistenti AI. Questo ‘canale laterale della sequenza di lunghezza del token’ consente a potenziali aggressori di dedurre il contenuto delle conversazioni private. In pratica, significa che nonostante i dati siano criptati, la lunghezza dei ‘token’ – le unità di testo significative – può essere misurata indipendentemente dalla crittografia stessa.

Si tratta di una vulnerabilità che, in parole povere, può essere utilizzata dagli hacker per appropriarsi delle nostre informazioni che noi stessi forniamo all’IA. Utilizzando sofisticati modelli linguistici e tecniche di analisi dei dati, infatti, gli aggressori possono ricostruire il testo delle risposte dell’assistente AI con una sorprendente precisione.

Questo significa che conversazioni apparentemente private, che possono includere informazioni personali, aziendali o sensibili, potrebbero essere esposte a intrusioni non autorizzate. Ad esempio, se un utente chiede consigli su questioni delicate come la salute, le finanze o le relazioni personali, tali informazioni potrebbero essere vulnerabili a questo tipo di attacco.

A tal proposito, alcuni fornitori di assistenti AI hanno già adottato misure proattive per mitigare questa vulnerabilità. Ad esempio, stanno esplorando l‘invio dei token in batch di grandi dimensioni o l’applicazione di padding ai pacchetti per rendere uniforme la lunghezza dei dati trasmessi. Tuttavia, è da precisare che tali misure possono influenzare l’esperienza utente e aumentare il traffico di rete.

In buona sostanza, chi non mastica il tecnicismo dell’argomento ma viaggia sereno sulle chatbot dell’IA a casa, nei bar e nei locali pubblici, deve sapere che i suoi dati sarebbero attualmente vulnerabili. Mentre l’industria continua a evolversi per affrontare questa sfida, è fondamentale che i fornitori di assistenti AI adottino misure robuste per proteggere le informazioni sensibili degli utenti. In ultima analisi, la fiducia degli utenti nei confronti degli assistenti AI – ad oggi – dipenderà dalla loro capacità di garantire la privacy e la sicurezza. Non ci resta che attendere, sì, ma sempre con la guardia ben alta.