Dalle fotografie manipolate ai riassunti automatici, la ricerca suggerisce che l’IA possa influenzare non soltanto ciò che sappiamo, ma anche ciò che crediamo di ricordare.

E se un giorno scoprissimo che alcuni dei nostri ricordi più nitidi non appartengono al nostro passato, ma a una storia raccontata da un algoritmo? Non è soltanto una suggestione da romanzo distopico. Nuovi esperimenti mostrano che informazioni inesatte prodotte dall’intelligenza artificiale possono influenzare il ricordo di eventi realmente osservati. La questione non riguarda più soltanto ciò che le macchine inventano, ma ciò che noi finiamo per credere.

La memoria non è una videocamera. E non lo è mai stata

Immaginate di assistere a un incidente stradale. Un’automobile arriva a un incrocio, si ferma davanti a un segnale, svolta e investe un pedone.

Avete visto tutto con i vostri occhi.

Qualche ora dopo leggete una descrizione dell’accaduto, preparata da un sistema di intelligenza artificiale. Il testo appare preciso, ordinato, scritto con la sicurezza di chi conosce i fatti.

C’è però un problema: un particolare è sbagliato.

Al posto del segnale di stop che avete effettivamente visto, il riassunto descrive un segnale di dare precedenza.

Quando vi verrà chiesto di ricordare l’incidente, a quale versione crederete? Ai vostri occhi oppure alle parole della macchina?

Saremmo tentati di rispondere che l’esperienza diretta debba prevalere. Eppure, la psicologia cognitiva conosce da decenni un fenomeno chiamato misinformation effect, l’effetto della disinformazione successiva all’evento.

I ricordi non vengono semplicemente riprodotti da un archivio immutabile. Sono ricostruiti, richiamati, interpretati. E durante questa ricostruzione possono incorporare informazioni arrivate successivamente.

L’intelligenza artificiale non ha inventato questa vulnerabilità. Potrebbe però diventare uno dei più efficienti strumenti per sfruttarla, anche involontariamente.

L’esperimento del 2026: quando il riassunto cambia ciò che ricordiamo

Una ricerca condotta da Mattea Sim, Yael Eiger e Tadayoshi Kohno, della Georgetown University e della University of Washington, ha affrontato direttamente il problema.

Il lavoro, intitolato AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory, è stato diffuso il 23 settembre 2026 su arXiv. Al momento della verifica, la versione consultata è un preprint, quindi va distinta da una pubblicazione già sottoposta a revisione scientifica formale. Gli autori ne hanno inoltre annunciato la presentazione alla conferenza AIES 2026.

La ricerca comprendeva due componenti: un’analisi degli errori nei riassunti prodotti da modelli generativi e un esperimento sulla memoria umana.

I risultati principali dello studio

328

Partecipanti inclusi nell’analisi finale della memoria

51,6%

Dettagli centrali omessi in media nei riassunti IA esaminati

83,6%

Risposte corrette dopo un riassunto coerente con il video

44,8%

Risposte corrette dopo un riassunto fuorviante

Fonte: Sim, Eiger e Kohno, 2026. Sono 331 i partecipanti che hanno completato entrambe le fasi, 328 quelli analizzati dopo le esclusioni previste.

I partecipanti hanno osservato un breve filmato animato raffigurante un incidente fra automobile e pedone. Successivamente hanno letto un riassunto contenente una descrizione corretta oppure deliberatamente inesatta del segnale stradale.

L’effetto sul ricordo di quel dettaglio è stato notevole.

Accuratezza del ricordo del segnale stradale

Percentuale di risposte corrette nell’esperimento

La differenza è di 38,8 punti percentuali, statisticamente significativa nel campione studiato.

Un altro risultato merita attenzione: l’effetto si manifestava sia quando il riassunto veniva presentato come generato dall’IA, sia quando veniva attribuito a un essere umano. In realtà, i testi erano stati generati dall’IA, indipendentemente dall’etichetta assegnata.

Questo ridimensiona una spiegazione troppo semplice, secondo cui saremmo manipolati soprattutto perché attribuiamo alle macchine un’autorità speciale.

Il problema sembra riguardare più profondamente il rapporto tra un’esperienza vissuta e le informazioni che riceviamo dopo.

Un particolare inquietante: l’IA può dimenticare proprio l’essenziale

Nell’altra parte dello studio, i ricercatori hanno esaminato 20 riassunti generati da due sistemi di IA a partire da due brevi video animati.

Tutti contenevano errori.

In media, il 51,6% dei dettagli centrali veniva omesso. Addirittura 19 riassunti su 20 non menzionavano il momento dell’impatto tra automobile e pedone, l’evento più importante della sequenza.

Il dato è interessante, ma non significa che il 95% dei riassunti prodotti da qualsiasi IA ometta normalmente l’informazione principale. Quel risultato riguarda soltanto il materiale sperimentale e le configurazioni analizzate.

Resta il significato del fenomeno: un riassunto linguisticamente credibile può essere informativamente infedele.

E qui emerge un paradosso.

Noi chiediamo alle macchine di sintetizzare perché abbiamo poco tempo, poca attenzione e una crescente quantità di informazioni da amministrare. Ma proprio questa delega può rendere meno probabile il controllo del documento originale.

L’algoritmo seleziona ciò che merita di essere ricordato. Noi, successivamente, potremmo ricordare soprattutto ciò che ha selezionato lui.

Non è soltanto un problema di informazione. È un problema di mediazione della memoria.

I falsi ricordi esistevano anche prima di ChatGPT

Sarebbe sbagliato attribuire all’intelligenza artificiale la scoperta, o addirittura l’invenzione, dei falsi ricordi.

Gli studi classici della psicologa Elizabeth Loftus hanno dimostrato che anche il modo in cui viene formulata una domanda può influenzare il ricordo di un incidente.

Nel 2023, una ricerca pubblicata sulla rivista peer-reviewed PLOS ONE ha aggiunto un tassello importante.

Gillian Murphy e colleghi dell’University College Cork hanno coinvolto 436 partecipanti in uno studio su falsi remake cinematografici. Attraverso video deepfake o semplici descrizioni testuali, venivano presentate versioni inesistenti di film famosi.

In media, il 49% delle risposte relative ai remake fittizi indicava una falsa memoria secondo il criterio adottato dagli autori.

Ma ecco il punto: i deepfake non si sono dimostrati significativamente più efficaci delle descrizioni scritte nel generare questi falsi riconoscimenti.

Non serve necessariamente una fotografia perfetta o un video artificiale spettacolare. Talvolta bastano poche frasi sufficientemente plausibili.

Lo studio, naturalmente, riguardava ricordi di prodotti culturali, non eventi traumatici o testimonianze giudiziarie. Non possiamo trasferirne automaticamente i risultati a qualsiasi situazione.

La lezione è però preziosa: non è la tecnologia, da sola, a rendere vulnerabile la memoria. È il modo in cui la nostra mente interpreta, integra e attribuisce credibilità alle informazioni.

Quando l’intelligenza artificiale diventa il nostro archivista personale

Il vero cambiamento culturale potrebbe arrivare da strumenti meno appariscenti dei deepfake.

Pensiamo ai sistemi che riassumono automaticamente le riunioni, alle applicazioni che organizzano le fotografie, agli assistenti che ricostruiscono conversazioni passate, alle piattaforme che selezionano i ricordi di un anno.

Non si limitano a conservare informazioni. Le interpretano.

Un archivio tradizionale custodisce una fotografia, una registrazione o un documento. Un sistema generativo può produrre una sintesi che non corrisponde integralmente a nessuna delle fonti originali.

La differenza è sostanziale.

La fotografia può essere incompleta. Una trascrizione può contenere errori. Ma una narrazione generativa può anche aggiungere collegamenti, intenzioni e spiegazioni che nessuno aveva documentato.

Immaginiamo di chiedere a un assistente digitale: «Che cosa abbiamo deciso durante quella riunione?».

Riceviamo una risposta articolata, convincente e apparentemente definitiva. Se qualche passaggio è stato inventato o ricostruito impropriamente, potremmo cominciare a incorporarlo nella nostra stessa versione dell’incontro.

Non sappiamo ancora quanto frequentemente accada nella vita quotidiana, né se questi effetti persistano nel tempo.

È però una possibilità che merita indagini specifiche.

Medicina, tribunali, giornalismo: quando ricordare male ha conseguenze concrete

Le implicazioni non sono soltanto filosofiche.

In medicina, un riassunto automatico della storia clinica potrebbe omettere un sintomo, confondere la cronologia di un trattamento oppure attribuire al paziente un’affermazione mai pronunciata. L’eventuale influenza sulla memoria del professionista è un rischio da studiare, non un danno già dimostrato in ambito clinico dallo studio del 2026.

Nella giustizia, la questione coinvolge testimonianze, verbali e descrizioni di filmati. Se un operatore consulta una sintesi inesatta prima di riferire ciò che ha osservato, esiste il rischio che l’informazione successiva condizioni il suo ricordo.

Nel giornalismo, l’automatizzazione dei riassunti può introdurre errori che passano da una fonte sintetica a un articolo, per poi essere ripresi e rafforzati da altre pubblicazioni.

Nella memoria collettiva, infine, sistemi generativi utilizzati per raccontare eventi storici potrebbero contribuire a diffondere interpretazioni sbagliate, soprattutto quando mancano riferimenti verificabili.

Sono scenari plausibili, non conseguenze inevitabili. La loro importanza giustifica controlli proporzionati e studi sul campo.

Dobbiamo smettere di usare l’IA per ricordare?

No. Sarebbe una conclusione affrettata e poco realistica.

L’intelligenza artificiale può rendere più accessibili archivi complessi, favorire la ricerca di informazioni, aiutare a organizzare documenti e offrire strumenti utili a chi incontra difficoltà nel gestire grandi quantità di dati.

Il problema non è delegare alcune operazioni alla tecnologia. È dimenticare che una sintesi non coincide necessariamente con la fonte.

Per un utilizzo più affidabile, soprattutto quando le conseguenze di un errore sono importanti, possiamo adottare cinque accorgimenti:

1. Conservare gli originali. Registrazioni, documenti e trascrizioni devono rimanere accessibili.
2. Esigere riferimenti verificabili. Ogni affermazione importante dovrebbe poter essere ricondotta a un passaggio della fonte.
3. Distinguere fatti e interpretazioni. Un buon sistema dovrebbe segnalare ciò che è documentato, ciò che è inferito e ciò che rimane incerto.
4. Registrare le osservazioni prima di leggere il riassunto automatico, quando occorre preservare una testimonianza indipendente.
5. Prevedere controlli umani basati sulle fonti, non soltanto sulla memoria di chi esamina il risultato.

Queste sono precauzioni ragionevoli, non interventi tutti già dimostrati efficaci da studi clinici o psicologici specifici sull’IA.

La stessa ricerca di Sim e colleghi sottolinea che avere un essere umano nel processo di verifica non garantisce automaticamente la correzione degli errori, soprattutto se la persona è già stata esposta alle informazioni inesatte.

Chi controllerà la fedeltà dei nostri ricordi?

Per secoli abbiamo affidato la memoria alle parole, alle immagini, ai libri e agli archivi.

Ogni strumento ha cambiato il nostro rapporto con il passato.

L’intelligenza artificiale introduce però una novità: non si limita a mostrarci ciò che abbiamo conservato, può costruire una risposta nuova, fluida, personalizzata, perfettamente compatibile con le nostre aspettative.

E noi siamo creature narrative. Amiamo le storie coerenti, anche quando la realtà è fatta di esitazioni, frammenti e contraddizioni.

Forse il pericolo non sarà una macchina capace di cancellare i ricordi, come nei racconti di fantascienza.

Potrebbe essere qualcosa di più ordinario: una macchina che racconta il passato con tanta naturalezza da farci dimenticare che lo sta ricostruendo.

Un tempo dicevamo: «Lo ricordo, dunque è successo».

Domani potremmo dire: «Me lo ha ricordato l’intelligenza artificiale, dunque dev’essere vero».

Il nostro compito sarà conservare una distinzione essenziale: quella fra ricordare, raccontare e verificare.

Perché il passato non appartiene a chi lo racconta meglio, ma ai fatti che possiamo ancora documentare.

Cosa sappiamo davvero, e cosa rimane da dimostrare

Il preprint del 2026 presenta limiti significativi: video animati molto semplici, un numero limitato di riassunti e modelli analizzati, ricordi valutati a breve distanza dall’esposizione e un singolo dettaglio manipolato nell’esperimento principale. Non misura il deterioramento generale della memoria né i suoi eventuali effetti a lungo termine.

Lo studio PLOS ONE offre una base peer-reviewed, ma utilizza materiali cinematografici fittizi e un campione reclutato per un’indagine online. Gli autori dichiarano finanziamenti LERO e assenza di conflitti di interesse.

In sintesi

Le ricerche suggeriscono che l’intelligenza artificiale possa diventare una nuova fonte di informazioni fuorvianti capaci di influenzare il ricordo umano.

Non significa che l’IA riscriva automaticamente il nostro passato, né che tutti i ricordi digitalmente assistiti siano inaffidabili.

Significa piuttosto che una vulnerabilità antica della mente umana incontra strumenti nuovi, capaci di produrre e distribuire ricostruzioni con grande facilità.

La questione decisiva non è soltanto se l’IA possa inventare un ricordo, ma se saremo ancora in grado di riconoscere la differenza tra ciò che abbiamo vissuto e ciò che ci è stato raccontato.

Fonti scientifiche e approfondimenti

• Sim M., Eiger Y., Kohno T. (2026). AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory. arXiv, 23 settembre 2026. Preprint.
• Murphy G. et al. (2023). Face/Off: Changing the face of movies with deepfakes. PLOS ONE, 18(7), e0287503. Peer-reviewed.
• Georgetown University Medical Center (25 settembre 2026). Comunicato istituzionale sullo studio.
• The Washington Post (15 ottobre 2026). Scientists are finding AI may make us remember things that never happened.

Risposta breve

L’intelligenza artificiale può creare falsi ricordi?

Sì, in condizioni sperimentali informazioni inesatte contenute nei riassunti generati dall’intelligenza artificiale possono influenzare il ricordo di eventi osservati. Uno studio preliminare del 2026 ha rilevato una riduzione dell’accuratezza nel riconoscimento di un dettaglio dopo la lettura di un riassunto fuorviante. Non è però dimostrato che l’uso quotidiano dell’IA provochi danni permanenti alla memoria.

Hook social

Una volta dicevamo: «Lo ricordo, quindi è successo».

Oggi potremmo arrivare a dire: «Me lo ha ricordato l’intelligenza artificiale, quindi deve essere vero».

E se fosse proprio questo il problema?

Un esperimento del 2026 suggerisce che anche un semplice riassunto inesatto può influenzare ciò che crediamo di ricordare.

La memoria umana non è un archivio perfetto. E l’IA non è necessariamente un archivista fedele.

Voi affidereste all’intelligenza artificiale la ricostruzione dei vostri ricordi?

#IntelligenzaArtificiale #MemoriaUmana #FalsiRicordi #PsicologiaDigitale

Nota editoriale: il valore aggiunto di questo articolo è spostare il dibattito dalla manipolazione delle immagini alla fiducia nei riassunti automatici. È un approccio adatto anche a successive riflessioni su IA nella sanità, archivi personali e testimonianze digitali.