Come le Big Tech usano le nostre chat: la verità sui dati che regaliamo ai chatbot

“Il capitalismo della sorveglianza nasce nel momento in cui le aziende scoprono di poter accampare diritti sulla vita delle persone e di poterla usare come materia prima gratuita da cui estrarre dati comportamentali, che diventano una loro proprietà privata”

Shoshana Zuboff

Con queste parole Shoshana Zuboff denunciava l’uso indiscriminato dei nostri dati da parte delle grandi aziende tecnologiche. Oggi i chatbot raccolgono le nostre conversazioni e le utilizzano di default per addestrare gli algoritmi. L’interfaccia conversazionale ci spinge ad abbassare le nostre difese psicologiche e a conferire all’intelligenza artificiale anche i nostri dati più sensibili. Profili iperdettagliati vengono così raccolti e conservati a tempo indeterminato nei server delle Big Tech.

Ma cosa accade ai dati che diamo in pasto all’AI? Quali strumenti abbiamo per proteggere le nostre informazioni più personali?

Dai dati alle conversazioni

Fino a poco tempo fa, i sistemi di Intelligenza Artificiale venivano addestrati rastrellando in modo massivo le informazioni pubbliche su internet, tramite le tecniche di web scraping. Con la diffusione di massa dei Large Language Model (LLM) la nuova frontiera dell’acquisizione dati è diventata lo spazio, solo apparentemente protetto, delle nostre conversazioni.

E’ bene notare che esiste una profonda differenza psicologica tra l’utilizzo di un tradizionale motore di ricerca e il dialogo con un Large Language Model. Il tono discorsivo ed empatico dell’AI abbassa le nostre difese cognitive, spingendoci a rivelare spontaneamente informazioni più sensibili: sintomi medici, fragilità emotive, informazioni finanziarie, etc. Trattiamo la macchina come un confidente, complice quel meccanismo che in psicologia è noto come “Effetto Eliza“, ovvero la nostra tendenza innata ad attribuire tratti umani e comprensione emotiva a un software.

Il pericolo intrinseco di questa dinamica è la creazione di un dossier iper-dettagliato della nostra identità. Centralizzare una mole così densa di informazioni sensibili in un unico profilo ci espone ad una profilazione algoritmica senza precedenti e a conseguenze devastanti in caso di violazioni di sicurezza e data breach.

Il dossier della nostra vita

Un recente studio della Stanford University, intitolato “User Privacy and Large Language Models”, analizza le privacy policy dei sei principali sviluppatori statunitensi di AI (Amazon, Anthropic, Google, Meta, Microsoft e OpenAI), portando alla luce dinamiche che si scontrano con i principi fondamentali in materia di protezione dei dati personali.

In primo luogo tutte le Big Tech utilizzano di default le conversazioni degli utenti — inclusi i file o i documenti caricati volontariamente — per l’addestramento e il miglioramento dei propri algoritmi. Questo significa che, in assenza di un’azione esplicita di opposizione da parte dell’utente (il cosiddetto opt-out), ogni prompt inserito diventa strutturalmente “materia prima” per la macchina.

L’approccio adottato si basa sulla massimizzazione delle informazioni estratte, in evidente contrasto con uno dei pilastri della data protection: il principio di minimizzazione, sancito dall’art. 5 del Regolamento UE in materia di protezione dei dati personali (GDPR). In ambito giuridico, la minimizzazione esige che la raccolta delle informazioni sia sempre limitata a quanto strettamente necessario per fornire il servizio. Le grandi piattaforme si difendono sostenendo che i dati di addestramento vengono “de-identificati” o “anonimizzati”. Tuttavia, quando un set di dati è così ricco di dettagli intimi, stilistici e contestuali — come quelli che riversiamo in una chat —, risalire all’identità dell’utente originale è un’operazione non solo tecnicamente fattibile, ma altamente probabile.

In aggiunta, i ricercatori di Stanford hanno rilevato come i log delle conversazioni vengano spesso conservati a tempo indeterminato, giustificando tale prassi operativa con generiche esigenze di “sicurezza” o “controllo qualità”. Un’altra prassi in antitesi con il GDPR, che impone il rispetto del principio di “limitazione della conservazione”.

L’accumulo silente e perpetuo di questi dati trasforma i server delle Big Tech in caveau di informazioni ipersensibili. Un approccio che sacrifica la nostra sicurezza sull’altare dell’addestramento algoritmico, cristallizzando le nostre confidenze all’interno di server su cui non abbiamo alcun controllo.

Dove finiscono davvero le nostre chat?

Il principio di trasparenza rappresenta un altro dei pilatri del GDPR. Affinché il trattamento sia lecito, l’utente deve poter comprendere con esattezza chi, come e perché sta utilizzando le sue informazioni.

Lo studio di Stanford ha evidenziato come le privacy policy delle grandi piattaforme siano spesso redatte con un linguaggio volutamente ambiguo, pensato non per informare davvero l’utente, ma per tutelare legalmente le aziende stesse. Questa “nebbia giuridica” funge da scudo per pratiche di condivisione e incrocio dei dati estremamente invasive.

I ricercatori hanno fatto emergere tre dinamiche allarmanti:

• le informazioni cruciali sull’addestramento dei Large Language Model sono sistematicamente omesse dall’informativa principale. Vengono frammentate e nascoste all’interno di documenti secondari, nei meandri delle FAQ tecniche o in sottomenù, rendendo di fatto impossibile per l’utente medio esercitare scelte consapevoli;
• i confini tra i diversi servizi offerti dalla medesima azienda sono pericolosamente sfumati. Diventa sempre più difficile capire se i testi che digitiamo su un documento in cloud o i post che pubblichiamo sui social network finiscano in pasto all’algoritmo di intelligenza artificiale dell’ecosistema;
• Infine, le policy rivelano l’esistenza di un sistema a due velocità. Mentre gli utenti aziendali a pagamento sono spesso (ma non sempre) esclusi dall’addestramento dei modelli, i consumatori comuni costituiscono il principale serbatoio da cui estrarre valore.

Come le interfacce ci manipolano

Oltre alla barriera della scarsa trasparenza, le grandi aziende tecnologiche utilizzano interfacce utente progettate intenzionalmente per manipolare le nostre scelte sfruttando bias cognitivi. Si tratta dei c.d. dark patterns (ne abbiamo parlato in questo articolo). Quando un utente cerca di opporsi all’addestramento dell’algoritmo, si scontra con un vero e proprio percorso a ostacoli studiato a tavolino.

Le tecniche più insidiose sfruttano due leve psicologiche:

• l’inerzia dell’utente: l’architettura delle piattaforme fa leva sulla nostra naturale inerzia. Poiché la condivisione dei dati per l’addestramento è sempre attivata di default, le Big Tech sanno perfettamente che solo una percentuale minima di utenti intraprenderà il faticoso percorso per disattivarla (opt-out). La scelta preimpostata diventa, di fatto, la regola universale;
• la manipolazione emotiva o “guilt-shaming”: quando un utente riesce finalmente a scovare l’opzione per negare il consenso, le piattaforme mettono in atto subdole tecniche di persuasione morale. I ricercatori citano l’esempio emblematico di OpenAI (ChatGPT), che cerca di scoraggiare l’opt-out facendo leva sul senso di colpa, avvertendo l’utente che donare i propri dati serve a “migliorare il modello per tutti”.

Questa narrazione trasforma una legittima richiesta di tutela della privacy in una sorta di egoismo verso la comunità. È un inganno retorico potentissimo: le interfacce ci fanno credere di contribuire al progresso tecnologico globale, mentre, nei fatti, stiamo fornendo gratuitamente i nostri dati per accrescere il valore commerciale di aziende private.

Anche Google (Gemini) adotta tecniche subdole per impedire agli utenti di opporsi. A differenza di altre piattaforme (come ChatGPT, che separa la cronologia della chat dalle opzioni relative all’addestramento), Google ha strutturato l’impostazione “Attività delle app Gemini” come un pacchetto unico. Se l’utente si oppone all’addestramento, tutte le sue chat vengono cancellate dopo 72h.

Intelligenza antropocentrica: la soluzione normativa

Lo studio di Stanford evidenzia come negli Stati Uniti, in assenza di una legge federale organica, la difesa della privacy sia estremamente fragile, affidata perlopiù a normative statali come il California Consumer Privacy Act (CCPA).

Ma anche in Europa, nonostante il solido scudo del GDPR, la situazione è complessa. Il Regolamento UE 2024/1689 (il c.d. AI Act, in vigore dal primo agosto 2024), che introduce stringenti obblighi di trasparenza per i fornitori di modelli generativi, è in fase di revisione da parte delle istituzioni UE. Il Parlamento europeo ha adottato la sua posizione sulla proposta di semplificazione facente parte del pacchetto “Digital Omnibus” giovedì scorso (26 marzo 2026).

In Italia stiamo assistendo a un vero e proprio braccio di ferro tra l’Autorità Garante e i colossi tech. Basti pensare alla recentissima sentenza (n. 4153/2026, 18 marzo 2026) con cui il Tribunale di Roma ha annullato la sanzione da 15 milioni di euro inflitta dal Garante a OpenAI. Un verdetto che dimostra quanto la materia sia magmatica e di difficile interpretazione per le stesse Autorità.

Siamo di fronte a un cantiere aperto, in cui il diritto sta cercando soluzioni e forme di tutela che non rallentino la competitività delle imprese. In attesa che si consolidi il quadro giuridico, cosa possiamo fare concretamente per proteggerci?

Igiene digitale: tre regole d’oro per dialogare con le macchine

Di fronte all’opacità delle Big Tech e in attesa che i nuovi assetti normativi dispieghino pienamente i loro effetti, la migliore difesa resta l’autotutela.

Ecco tre strategie pratiche di “igiene digitale” per interagire con i Large Language Model in sicurezza:

• Esercita sempre l’opt-out: non farti scoraggiare dai percorsi tortuosi pensati per farti desistere. Esplora le impostazioni del tuo account e disattiva l’opzione che permette di utilizzare le tue chat per l’addestramento dei modelli.

• Sfrutta le chat temporanee: diverse piattaforme offrono la possibilità di avviare conversazioni temporanee che non vengono salvate nella cronologia e sono escluse dai cicli di training. Utilizza questa funzione di default ogni volta che affronti argomenti delicati o personali.

• Applica la minimizzazione “fai-da-te” (Igiene dei prompt): prima di premere invio, depura il tuo testo. Elimina nomi propri, dettagli medici, informazioni finanziarie o aziendali. Se devi affidare all’AI il riassunto di un documento, assicurati di aver preventivamente anonimizzato ogni dato sensibile o riservato al suo interno. La regola aurea è semplice: tratta l’interfaccia del chatbot come una bacheca pubblica.

Condividi questo articolo per aiutare i tuoi contatti a proteggere le proprie conversazioni e iscriviti alla newsletter di “è personale” per ricevere consigli utili per la tua tutela digitale.