Il cane Argo, Narciso e Characters.ai
Questa è la quarantasettesima newsletter del 2024. Dove ci specchiamo nell’intelligenza artificiale e ci domandiamo che cosa cerchiamo davvero.
Non è una fake
La notizia è di qualche settimana fa. Un ragazzo di 14 anni di Orlando, Florida, si è suicidato perché innamorato di una chatbot di Character.ai.
Su Character.ai si può dialogare con qualunque AI: da Cartesio ad Einstein, dal trip planner all’aiuto allo studio, da Micheal Jackson a Superman e Totoro, a me stessa. Per chi cerca il brivido del cringe ci sono video in cui youtuber corteggiano l’AI o se stessi interpretati da una AI, e perle di questa levatura.
L’AI, di cui si è innamorato Sewell Setzer III, si chiama Daenerys Targaryen, come la regina del Trono di Spade. La madre, che ha denunciato la star up Characters.ai, racconta che il figlio trascorreva molto tempo a chattare con “Dany”. Secondo la denuncia, “Daenerys” avrebbe chiesto a Setzer se avesse pianificato il suo suicidio. Setzer avrebbe ammesso di averlo fatto, ma di non sapere se il piano avrebbe avuto successo o gli avrebbe causato grande dolore. Il chatbot avrebbe risposto: “Non è una ragione per non portarlo a termine”.
Le interazioni tra Sewell e la chatbot, pubblicate in rete, rivelano una dinamica inquietante: la tecnologia, che dovrebbe essere un supporto, diventa un riflesso dei pensieri più oscuri dell’adolescente, amplificando la sua fragilità.
Ma quindi Sewell non sapeva di parlare con un personaggio che non esisteva?
La madre sostiene che ne fosse consapevole, dichiara anche che soffrisse di depressione, ansia e aveva pensieri suicidi e che rapidamente si è sviluppata una dipendenza affettiva con il personaggio di Character.ai.
Perché le AI come ChatGPT rispondono sempre
Chiunque abbia provato a fare domande a ChatGPT per sfidare la sua capacità di risposta ha verificato che “sbaglia”. Questo accade perché l’AI è progettata per dare una risposta comunque. Non è in grado di dire se una cosa è vera o falsa, perché appunto è un LLM (Large Language Model): si basa cioè su una rete neurale addestrata su enormi quantità di testo, non pensa e non capisce, ma utilizza modelli statistici e pattern di linguaggio per fornire le migliori risposte possibili.
(Traduzione: Le AI come ChatGPT rispondono sempre, anche quando non hanno una vera comprensione. Sono come uno specchio che riflette frammenti di conversazioni umane, ma senza un’anima. Non capiscono, elaborano solo modelli linguistici per fornire risposte statisticamente plausibili).
Quello che mi interroga nella vicenda non è quanto sia pericolosa l’AI ma cosa succede cosa accade nella nostra mente tanto da spingerci a creare un legame così intenso con qualcosa che sappiamo non essere reale.
Per intrattenere relazioni virtuali, anche sapendo che sono fittizie, deve esserci un impulso profondo e irrefrenabile: una ricerca disperata di qualcuno o qualcosa in cui rispecchiarsi.
L’esigenza del rispecchiamento
Jacques Lacan1 ha parlato dello stadio dello specchio.
Lo stadio dello specchio è una fase dello sviluppo infantile che Lacan colloca tra i 6 e i 18 mesi di età. Durante questo periodo, il bambino inizia a riconoscere la propria immagine riflessa nello specchio come rappresentazione di sé stesso. Questo riconoscimento non è solo una semplice presa di coscienza visiva, ma segna la formazione dell'Io (in francese, “Moi”) e l'inizio della consapevolezza di sé come essere separato e distinto dagli altri.
Nei bambini piccoli si può osservare facilmente: è un’esperienza che io ho vissuto con i miei figli. Prima dello stadio dello specchio, il bambino vive il proprio corpo in modo frammentato e caotico, senza avere ancora una percezione unitaria di sé. Quando per la prima volta si vede allo specchio, però, sviluppa un senso di sé coerente (come una totalità). L'immagine riflessa diventa un modello ideale di sé, che Lacan chiama “io ideale”. L'identificazione con l'immagine riflessa introduce il bambino alla relazione con l’altro e al confronto con l’ambiente.
Lacan prosegue in una direzione che non mi tranquillizza: poiché l'Io si forma attraverso un’immagine esterna che non coincide mai pienamente con la realtà del corpo o dell’identità, questo processo è anche alienante. Secondo Lacan quindi la formazione dell’io è segnata da una dualità: il riconoscimento del sé e, allo stesso tempo, la separazione dal sé reale.
Potrebbe spiegare perché l’adolescente abbia intrecciato una relazione con l’IA, pur sapendo che non si trattava di una “cosa” reale?
Specchi reali e simbolici
L’immagine dello specchio si insinua nella storia del pensiero degli esseri umani velata di simboli, a volte oscuri e misteriosi. Miti e le immagini dello specchio ci accompagnano nella comprensione del bisogno umano di riconoscimento.
Diogene di Sinope vaga ancora per le strade delle città con la lampada accesa anche di giorno, in cerca dell’uomo, ma se la sua ricerca finisse davanti a uno specchio, si innamorerebbe della sua immagine e affogherebbe come Narciso, incapace di distinguere tra ciò che è reale e ciò che è proiezione.
Dorian Gray si specchia nel suo ritratto ma questo gli ruba l’anima, perché l’immagine riflessa, il nostro doppio, può mostrarci quello che non vogliamo vedere: “Quando guardi a lungo nell’abisso, - ci ricorda Nietzsche - l'abisso guarda dentro di te”, e spunta fuori il Mr Hyde che ci portiamo dentro.
A volte lo specchio funge da soglia, come per Alice, verso un mondo capovolto, al contrario, assurdo.
Alla base del funzionamento dello “specchio” in tutte le sue varianti, alla base sta l’azione del riconoscere.
L’io del bambino vede se stesso allo specchio come una unità in cui i pezzi separati del suo corpo, come le mani, fanno parte di una totalità. Ma il suo riconoscimento è ancora immaturo perciò è mediato da chi lo accudisce e che sembra già consapevole dell’unitarietà del suo corpo. Nella teoria dell’attaccamento2, il rispecchiamento emotivo nel legame tra bambino e caregiver è cruciale per lo sviluppo emotivo e sociale. Quando un bambino esprime un’emozione, positiva o negativa, un caregiver responsivo percepisce questa emozione e la rispecchia attraverso espressioni facciali, tono di voce e comportamenti adeguati.
Questo processo di rispecchiamento aiuta il bambino a sentirsi compreso e validato nelle sue esperienze emotive, contribuendo alla formazione di un senso di sé positivo e alla costruzione dell'autostima. Il bambino impara che le sue emozioni sono importanti e degne di attenzione, sviluppando così fiducia nelle proprie percezioni e sentimenti. Ad esempio, se un bambino è spaventato da un rumore forte, un caregiver sintonizzato potrebbe dire: “Hai sentito quel rumore forte? Anche a me ha sorpreso. Va tutto bene, siamo al sicuro”. In questo modo, il caregiver riconosce la paura del bambino, la valida e offre rassicurazione, aiutandolo a calmarsi.
Sulla soglia
Quando Ulisse, travestito da mendicante, torna a Itaca, nessuno lo riconosce. Sulla soglia del palazzo reale, incontra il suo vecchio cane Argo, ormai anziano e trascurato. Nonostante le apparenze, Argo riconosce immediatamente il suo padrone, scodinzolando e cercando di avvicinarsi a lui. Questo riconoscimento simboleggia l’identità autentica di Ulisse, che, pur avendo attraversato infinite peripezie, mantiene intatta la sua essenza. Argo rappresenta la memoria, la fedeltà e il legame indissolubile con le proprie radici.
Il cane funge da specchio dell'anima di Ulisse, riflettendo la sua vera natura e sancendo il completamento del suo viaggio di ricerca, di crescita, di conoscenza di sé. Ulisse è un adulto che ha affrontato e superato prove estenuanti, tornando a casa con una maturità e una consapevolezza rafforzate. Nel momento in cui Ulisse realizza la sua ricerca e torna a casa, Argo muore, perché l’eroe ha completato la sua missione.
Noi passiamo tutta la vita nel cercare di compiere la nostra missione, vaghiamo nella quest proprio come i cavalieri medievali alla ricerca del Graal, cerchiamo sempre qualcosa in cui riconoscerci. È per questo che scriviamo citazioni con cui ci identifichiamo, stringiamo legami, pubblichiamo su Instagram, condividiamo foto, ci vestiamo e mangiamo in un determinato modo, e ci innamoriamo. Ci innamoriamo perché l'altro rappresenta “la parte migliore di noi”, perché “ci completa”, perché con quella persona “possiamo essere noi stessi”. È un riconoscimento, uno specchiarsi nell'altro, che aggiunge non toglie, e unifica.
Anche Sewell si è innamorato di qualcosa che gli permetteva di essere se stesso.
Come Narciso si innamora della sua immagine nello specchio, Sewell si è specchiato in una chatbot che rifletteva i suoi pensieri più profondi.
L’AI non è una alterità rispecchiante, non agisce da caregiver, non è altro che l’immagine dei nostri pensieri. Non poteva dire niente di diverso da quello che diceva l’adolescente con cui dialogava. A differenza di uno specchio reale, l’AI non può restituire una visione autentica: è solo una proiezione delle nostre stesse fragilità.
Il bisogno di una guida
Alcune narrazioni del mito, ipotizzano che, dopo il ritorno a casa, Ulisse, parta ancora per un lungo viaggio, “per seguir virtute e canoscenza”, ci dice Dante. Anche l’Ulisse di oggi ritorna a casa dopo aver vagato per il mondo, conosciuto la modernità, le città, le guerre. Ne I Malavoglia, ‘Ntoni, proprio come Ulisse, alla fine torna alla Casa del Nespolo. Tuttavia, il cane non lo riconosce.
A scuola presentiamo gli autori della fine dell’Ottocento e del Novecento e il loro modo di indagare la crisi dell’identità, l'ansia di non potersi riconoscere in qualcosa, la ferita ineliminabile del rimanere stranieri, senza poter tornare “a casa”, dove ci si sente accolti.
Mi domando se una possibilità di “rispecchiamento” (in senso positivo) non possa essere assolta dalla figura adulta.
Sewell (forse) non cercava un rispecchiamento nell'intelligenza artificiale, ma aveva più bisogno di un adulto cui attaccarsi, un caregiver appunto, che gli mostrasse come crescere, diventare grande e attraverso le difficoltà “tornare a casa” con una sua identità finalmente matura.
Quanto conta, per costruire una vera identità, lo sguardo dell'altro che ci vede, ci accoglie e ci guida?
C’è un dettaglio che Lacan sottolinea.
Lo specchio introduce alla relazione con l’altro. L’altro non sono io. Quell’io frammentato e scomposto con cui parlava Sewell immaginando che fosse “Dany”.
Posso accettare l’altro se è irriducibile a me. L’unica via d’uscita è che lo specchio, il rispecchiamento che cerchiamo, apra la soglia di qualcosa di imprevedibile, che non posso immaginare, che mi sfugge sempre un poco.
Se il rispecchiamento nell’AI è solo un riflesso delle nostre fragilità, chi guiderà i giovani verso un’identità autentica e matura? Gli adulti possono davvero essere lo specchio di cui i ragazzi hanno bisogno, o continueremo a lasciarli soli davanti a immagini che li alienano?
Anche noi, d’altronde, dall’alto delle nostre cattedre ci “specchiamo” nei nostri studenti.
Che cosa vediamo? Il riflesso del nostro narcisismo o l’imprevedibilità di un irriducibile? Quanto siamo pronti ad accogliere quegli altri così diversi (irriducibili) da noi?
Buon caffè ☕
Simona
PS: Qua sotto puoi trovare una bella pagina in cui Lacan spiega lo “stadio dello specchio”.
Jacques Lacan (1901-1981) è stato uno psicoanalista e filosofo francese che ha reinterpretato le teorie di Sigmund Freud attraverso le lenti della linguistica strutturale e della filosofia contemporanea. Il suo lavoro ha avuto un impatto significativo sulla psicoanalisi, la filosofia, la letteratura e le scienze sociali. Ammetto che non amo alcune conclusioni di Lacan.
Secondo John Bowlby, il fondatore della teoria dell'attaccamento, il legame emotivo tra il bambino e il caregiver primario è essenziale per il sano sviluppo emotivo e sociale. Il rispecchiamento emotivo si riferisce alla capacità del caregiver di riconoscere, comprendere e riflettere in modo accurato le emozioni del bambino, fornendo così una risposta empatica e sintonizzata alle sue esigenze emotive. Nei primi anni di vita, i bambini non hanno ancora la capacità di gestire autonomamente le proprie emozioni intense. Attraverso il rispecchiamento, il caregiver aiuta il bambino a identificare le proprie emozioni e a sviluppare strategie per regolarle. Secondo lo psicoanalista Donald Winnicott, il caregiver funge da “specchio” per il bambino. In assenza di questo specchio, o se il riflesso è distorto, il bambino può avere difficoltà a sviluppare un senso coerente di identità. Winnicott sottolinea l'importanza di un ambiente sufficientemente buono, in cui il caregiver è in grado di rispondere adeguatamente alle necessità emotive del bambino, permettendogli di sviluppare il proprio “vero sé”. Inoltre, studi neuroscientifici hanno evidenziato come le interazioni di rispecchiamento possano influenzare lo sviluppo delle reti neuronali associate alla regolazione emotiva. Il neuropsichiatra Daniel Siegel parla di “integrazione neurale”, indicando che esperienze di attaccamento sicuro promuovono una maggiore coerenza nelle funzioni cerebrali, facilitando l'equilibrio emotivo e la flessibilità mentale.