Cassandra Crossing 669/ Vendere Eliza come ricetta per il successo

Gli articoli di Cassandra Crossing sono sotto licenza CC BY-SA 4.0 | Cassandra Crossing è una rubrica creata da Marco Calamari col “nom de plume” di Cassandra, nata nel 2005.

L’effetto Eliza e i chatbot

Questo articolo è stato scritto il 28 maggio 2026 da Cassandra

Cassandra Crossing 669/ Vendere Eliza come ricetta per il successo

Riassumere il motivo del grande successo dei tech-bro (© DataKnighmare) come Altman ed Amodei è semplice. Peccato non lo si possa usare per avere i loro soldi. Ma per prevedere il futuro può essere molto utile.

Cassandra si vergogna un po’ di averci messo tanto a capire una cosa che forse a molte persone era perfettamente chiara da tempo.

Ma siccome nessuna di queste persone, se esistono, le ha mai fatto omaggio di questa informazione, e lei ha dovuto lentamente arrivarci da sola, oggi vi regalerà proprio questa sintesi, tanto estrema quanto rivelatrice.

Non si tratta assolutamente di una novità, ma di una “dimostrazione”, che essendo magnificamente sintetica, secondo il Rasoio di Occam è probabilmente magnificamente vera.

L’Impero finanziario dell’IA che è stato creato non è frutto della potenza di un nuovo giocattolo tecnologico come gli LLM. Non è nemmeno il prodotto di un complotto volto al dominio del mondo.

E’ lo sfruttamento, estremo, deliberato ed opportunista, di una nota debolezza della mente umana, operato mediante l’uso di una nuova tecnologia,

Questa debolezza viene spesso indicata col nome di “Effetto Eliza”, cioè dell’atavica ed irresistibile tendenza della mente umana a cercare suoi simili nel mondo che la circonda.

Nel caso dei chatbot questo causa una ”antropomorfizzazione” del programma con cui l’essere umano interagisce, che porta inevitabilmente a considerarlo “umano”.

Si tratta di una reazione “incontrollabile”, che compete su un piede di parità con la conoscenza oggettiva del contrario, e che se non accuratamente contrastata causa inevitabilmente importanti alterazioni del rapporto uomo-macchina.

E’ purtroppo del tutto “naturale” che le persone proiettino sé stesse anche su qualunque output in linguaggio naturale proveniente da un computer, e che gli attribuiscano “profondità” e significati che ovviamente provengono dall’umano, e non dal computer.

Riconoscete qualcosa di familiare ? Qualcosa di attuale e pervasivo? Riconoscete ChatGPT e gli LLM?

E questo tira in ballo Eliza.

Wikipedia la presenta così “ ELIZA è un chatterbot scritto nel 1966 da Joseph Weizenbaum.”

Sì, sessanta anni fa, e si trattava di poco più di mille righe di un linguaggio simile al BASIC.

Ma proseguiamo. L’autore di Eliza, Joseph Weizenbaum, scrisse il suo chatbot come un “esperimento”, ma le reazioni delle persone che l’utilizzarono lo sorpresero a tal punto da provocare una svolta permanente nei suoi interessi e nella sua carriera.

Potremmo sintetizzare tutto questo dicendo che Weizenbaum ha passato il resto della sua vita cercando di avvertirci dei pericoli di questo fenomeno.

Ha fatto questo come poteva, cioè scrivendo testi fondamentali come “Il Potere del Computer e la Ragione Umana“, tradotto anche in italiano, esaurito da tempo ma in fase di ristampa. Compratevelo e veneratelo!

Cassandra l’ha raccontato anche nelle scuole, come vi riassume in questo articolo.

E siamo arrivati al nocciolo della questione.

Se dopo averli studiati con cura si depura la questione dai dettagli storici e filosofici, è lampante come nel passaggio da un chatbot scritto in Basic ad un LLM pilotato da una potenza computazionale sostanzialmente infinita questo potente effetto psicologico divenga un’arma di tecnocontrollo di massa.

Ed i techbro l’hanno capito per primi, ed hanno applicato quest’arma senza remore e senza pietà (cosa normale nel mondo della finanza) per il loro tornaconto personale.

Era così semplice.n dimostra, anche per chi vive in paesi dotati di governi un po’ più democratici.

Marco Calamari

@lealternative