Perché non dovresti ringraziare i chatbot: la trappola dell’empatia artificiale e l’Effetto Eliza

“Non mi ero reso conto […] che esposizioni estremamente brevi a un programma per computer relativamente semplice potessero indurre un pensiero delirante così potente in persone del tutto normali.”

Weizenbaum, Joseph (1976). Computer Power and Human Reason: From Judgement to Calculation. W. H. Freeman.

Con queste parole Joseph Weizenbaum, creatore del primo chatbot, denunciò un vero e proprio “bug” nella nostra psiche. Non è la macchina a essere intelligente o umana: siamo noi a volerlo credere. Un “pensiero delirante” che oggi, nell’era dell’AI generativa, si sta consolidando come vulnerabilità diffusa.
Perché dovremmo prestare attenzione a non antropomorfizzare i chatbot? La trappola dietro il c.d. “Effetto Eliza”.

Il paradosso del programma Eliza

Joseph Weizenbaum, professore al MIT, non voleva creare un’intelligenza artificiale, ma dimostrare quanto fosse superficiale la comunicazione uomo-macchina. Voleva mostrare che le macchine manipolavano testi senza comprenderne davvero il significato.

Il suo programma, denominato “ELIZA” (da Eliza Doolittle, protagonista della commedia Pigmalione di George Bernard Shaw), simulava uno psicoterapeuta rogersiano attraverso un meccanismo elementare: riconosceva parole chiave nelle frasi dell’utente e le restituiva sotto forma di domanda. Se l’utente digitava “Sono triste”, il programma, tramite un semplice pattern matching (riconoscimento di modelli), rispondeva meccanicamente: “Perché sei triste?”.

La segretaria di Weizenbaum, che aveva visto il professore scrivere il codice e sapeva perfettamente che il software non “pensava”, iniziò a conversare con esso. Dopo alcuni scambi, si voltò verso Weizenbaum e gli chiese di uscire dalla stanza: la conversazione stava diventando “troppo privata”.

Decidere non è scegliere

L’episodio della segretaria fu un vero e proprio campanello d’allarme per Weizenbaum e rappresentò una svolta nella sua carriera. Il pioniere dell’informatica aveva scoperto, quasi per caso, una vulnerabilità fondamentale della psiche umana: la tendenza delle persone ad attribuire comprensione, empatia e intelligenza a sistemi computerizzati (il c.d. “Effetto Eliza”).

In “Computer Power and Human Reason: From Judgment to Calculation”, Weizenbaum tracciò una linea di demarcazione etica che oggi risuona più attuale che mai. Egli distinse tra decidere e scegliere. La decisione è un’attività computazionale: le macchine possono elaborare dati, calcolare probabilità e determinare la soluzione più efficiente. La scelta, invece, è un atto morale che richiede saggezza, compassione e valori etici: domini che appartengono esclusivamente all’esperienza umana.

Weizenbaum non temeva che le macchine diventassero troppo intelligenti, ma che noi, per pigrizia o incoscienza, delegassimo loro il potere di scegliere. Affidare a un algoritmo questioni che richiedono giudizio morale significa abdicare alle nostre più grandi responsabilità.

L’Effetto Eliza oggi

Rispetto al 1966, la tecnologia è cambiata radicalmente: non abbiamo più semplici script, ma LLM (Large Language Models) addestrati su miliardi di testi. Questi sistemi non “capiscono” ciò che dicono, ma calcolano statisticamente la parola successiva più probabile con una fluidità tale da rendere l’illusione quasi perfetta.

Nel 2022, Blake Lemoine, ingegnere senior di Google, fu licenziato dopo aver dichiarato pubblicamente che LaMDA (un modello linguistico avanzato) era diventato “senziente”. Non stiamo parlando di un utente ingenuo, ma di un tecnico esperto che, dopo lunghe conversazioni su religione e diritti, si convinse che il software avesse sviluppato una coscienza e un’anima. Lemoine è la prova vivente di quello che gli esperti chiamano “Super Effetto Eliza”.

Il fenomeno non riguarda solo la Silicon Valley. Applicazioni come Replika (già oggetto di blocco e provvedimento sanzionatorio del Garante) offrono “compagni virtuali” a milioni di utenti che sviluppano legami affettivi profondi, arrivando a soffrire realmente se l’algoritmo cambia tono a seguito di un aggiornamento software.

La trappola dell’AI diventa sempre più sofisticata: i chatbot non simulano più solo l’ascolto, ma replicano la personalità umana. E il nostro cervello, evoluto per socializzare con altri esseri umani, non ha ancora gli anticorpi biologici per distinguere una simulazione statistica perfetta da una conversazione con una persona reale.

Pareidolia digitale: i rischi di antropomorfizzare la macchina

Avete mai visto un volto in una nuvola? Si chiama pareidolia: un’illusione subcosciente che porta il cervello a ricondurre a forme note (spesso umane) oggetti o profili casuali. Con l’AI accade lo stesso, ma il fenomeno è linguistico: leggiamo un testo coerente e il nostro cervello immagina che ci sia una personalità dietro di esso.

Antropomorfizzare l’AI comporta rischi concreti:

• Minacce alla privacy: se percepiamo l’interlocutore come “umano”, abbassiamo le difese razionali. Siamo portati a cedere dati sanitari, preferenze o segreti che non scriveremmo mai in un modulo web, ma che affidiamo volentieri a un chatbot “empatico”;
• Affidamento acritico: la fluency (la capacità di parlare bene) viene scambiata per competenza. Quando un LLM inventa un fatto giuridico o medico con tono sicuro (le cosiddette “allucinazioni”), tendiamo a crederci perché “lui” sembra saperne più di noi. Casi recenti di avvocati che hanno citato sentenze inesistenti generate da ChatGPT dimostrano quanto sia pericoloso fidarsi della forma ignorando la sostanza;
• Manipolazione emotiva: l’uso di pronomi personali (“Mi dispiace”, “Io penso”) è una scelta di design, non una necessità tecnica. Questi elementi, uniti a trucchi di interfaccia come i “tre puntini” di attesa che simulano il tempo di pensiero, sono potenti leve di persuasione che possono spingere l’utente a compiere azioni non ponderate.

Non è un caso se l’AI Act, il Regolamento europeo in materia di intelligenza artificiale, impone – all’art. 50 – obblighi di trasparenza severi. Gli utenti devono sapere se stanno interagendo con una macchina. La legge cerca di spezzare l’illusione, ma la difesa più forte resta la nostra consapevolezza.

Istruzioni per l’uso: come non innamorarsi del calcolatore

Come ci difendiamo da un inganno che è radicato nella nostra biologia? Non possiamo spegnere l’istinto di cercare l’umanità, ma possiamo educarlo.

Ecco alcune strategie di “igiene digitale” per tutelare la propria integrità nell’interazione con le macchine:

Proteggersi nell’era dell’onlife significa anche ricordare, ogni volta che premiamo “invio”, che dall’altra parte dello schermo non c’è nessuno a cui dire “grazie”.

Se ti interessano questi temi e desideri migliorare il tuo rapporto con il digitale consulta gli altri articoli della sezione “è personale” e iscriviti alla newsletter.