Il generatore di certezze
di Alessandro Ferretti

Ho sottoposto a Chatgpt una domanda sulle accuse di violenza sessuale durante l’attacco del 7 ottobre 2023, chiedendo esplicitamente un’analisi critica che tenesse conto della possibilità di prove inquinate, della fabbricazione di testimonianze, delle criticità delle indagini e dell’uso propagandistico delle accuse.

La prima risposta è stata un’analisi di tremila parole, strutturata in quindici sezioni, con tanto di tabelle e stime probabilistiche. Nonostante avessi chiesto esplicitamente di tenere in conto tutte le criticità, la probabilità che il 7 ottobre si fossero verificati degli stupri risultava stimata tra il 95% e il 99%. Eppure, dopo sei ulteriori interlocuzioni, la stessa AI ha cambiato completamente parere, dichiarando una completa incertezza: 50% sì, 50% no, dalla certezza quasi assoluta all’agnosticismo.

La parabola di questa conversazione (leggibile per intero al link in calce) è istruttiva non solo per la domanda specifica, ma anche (o soprattutto) per ciò che rivela sui limiti strutturali delle AI in generale come fonte di informazione.

Per quanto riguarda il 7 ottobre: le verifiche condotte dall’AI nel corso del dialogo hanno mostrato che non esiste, nel dominio pubblico, un singolo caso di stupro documentato con evidenza diretta, forense e indipendente: nessun caso con identità certa della vittima, luogo preciso, descrizione dell’atto, testimone oculare diretto, riscontro medico-legale o possibilità di controinterrogare i testimoni.

La testimonianza della vittima e il riscontro forense sono normalmente il fulcro probatorio in un’indagine su violenza sessuale: qui mancano entrambi. La missione ONU guidata da Pramila Patten ha dichiarato esplicitamente di non aver intervistato nessuna sopravvissuta a violenza sessuale del 7 ottobre. Human Rights Watch, dopo aver intervistato 94 sopravvissuti all’attacco e altre 50 persone, è arrivata alla stessa conclusione negativa.

La Commissione internazionale d’inchiesta ONU ha affermato di non aver incontrato alcuna sopravvissuta nonostante avesse tentato di farlo, e ha dichiarato che le testimonianze di stupro raccolte da giornalisti e dalla polizia israeliana non sono state indipendentemente verificate, per mancanza di accesso alle vittime, ai testimoni e ai luoghi del crimine.

Sul piano forense non risulta disponibile pubblicamente, per nessun caso, un’autopsia che accerti lesioni compatibili con penetrazione sessuale, o un rape kit, o campioni biologici, o il DNA di un aggressore, o una catena di custodia completa.

HRW ha citato un funzionario della polizia israeliana secondo cui le autopsie effettuate con tale fine ammontavano a zero. Il dato è significativo, perché Israele aveva ovviamente un interesse enorme a produrre prove forensi inconfutabili. A questo si aggiunge la contaminazione delle scene: le vittime furono raccolte, spostate e sepolte spesso da soccorritori non addestrati alla medicina legale, rendendo impossibile qualsiasi ricostruzione forense affidabile.

Esistono poi testimonianze dimostratesi false o fuorvianti: un volontario ZAKA raccontò di aver trovato a Be’eri una ragazza con i pantaloni abbassati, ma si accertò che soldati israeliani avevano spostato il corpo per verificare che non fosse una trappola esplosiva. La storia della donna incinta raccontata da Yossi Landau si rivelò anch’essa falsa, e l’ONU stessa ha indicato questi episodi come non fondati. Questo non dimostra che tutte le altre testimonianze siano false, ma documenta un tasso di errore significativo nel sistema di osservazione immediatamente successivo al massacro.

C’è poi la dipendenza delle fonti. La missione Patten fu invitata dal governo israeliano; gran parte del materiale da essa esaminato arrivò tramite le autorità israeliane; la missione non ebbe accesso a Gaza; i testimoni furono segnalati dalle autorità nazionali. La Commissione d’inchiesta ONU ha dichiarato di non aver avuto accesso alle vittime, ai testimoni e ai luoghi dei crimini. Le conclusioni ONU sono quindi una meta-evidenza — il giudizio di un organismo su materiali che noi stessi non possiamo verificare completamente — e non possono essere trasformate in prova indipendente.

Sul materiale fotografico esistono due obiezioni serie. La prima: un corpo nudo, legato o in posizione sessualmente connotata non costituisce automaticamente prova di stupro; è compatibile con spoliazione, umiliazione, mutilazione, manipolazione del cadavere, ricerca di esplosivi. La seconda: esiste almeno un caso documentato in cui una fotografia pubblicata da un sito israeliano come immagine di una presunta vittima di violenza sessuale del 7 ottobre era in realtà online prima di quella data e raffigurava una combattente curda caduta in un altro contesto. La provenienza israeliana di un’immagine non è garanzia di corretta attribuzione.

C’è infine un argomento di plausibilità tattica. Il 7 ottobre è stato un raid militare rapido, con obiettivi precisi — uccidere, rapire ostaggi, fuggire prima dell’arrivo dell’IDF — in un lasso di tempo strettissimo. Fermarsi a commettere stupri nel mezzo di un’operazione ad alto rischio è tatticamente implausibile. Questo non rende lo stupro impossibile, ma rende meno intuitiva l’ipotesi di stupri numerosi e diffusi.

Riassumendo: non esiste un singolo caso documentato con evidenza diretta e forense. Non esiste una sopravvissuta intervistata. Non esiste una prova medico-legale pubblica. Il materiale fotografico è in parte dimostrabilmente ricontestualizzato erroneamente. Le scene sono state contaminate. Le indagini internazionali hanno operato con accesso limitato e dipendente dalla parte in causa.

La conclusione non è che gli stupri non siano avvenuti. È che le evidenze pubblicamente verificabili non sono sufficienti per assegnare una probabilità significativamente superiore al 50% né all’ipotesi che almeno uno stupro sia avvenuto né all’ipotesi contraria. Non possiamo decidere in un senso o nell’altro. Esistono elementi che rendono plausibile l’ipotesi dello stupro ed elementi che la rendono non necessaria. Nessuno dei due insiemi prevale in modo decisivo sull’altro, una volta che si sospenda la fiducia istituzionale e si consideri soltanto ciò che è pubblicamente accessibile e indipendentemente verificabile.

Per quanto riguarda invece l’aspetto della credibilità delle AI, partiamo da una domanda: come è possibile che, nonostante il prompt richiedesse esplicitamente uno studio critico delle evidenze e l’AI avesse accesso alla rete, dove tutte le criticità sopra menzionate sono documentate, l’AI abbia fissato la probabilità iniziale nell’intervallo 95-99%? Perché ha generato un’analisi che assegnava una probabilità quasi certa a un’ipotesi che, come la conversazione avrebbe poi dimostrato, non è sostenuta da prove pubblicamente verificabili sufficienti?

La prima ragione è che l’AI non analizza: genera. Non ha esaminato fotografie, non ha intervistato testimoni, non ha verificato catene di custodia. Ha generato un testo che, sulla base dei pattern statistici appresi durante l’addestramento, assomiglia a un’analisi informata. La prima risposta riflette la distribuzione statistica delle posizioni presenti nel suo corpus di addestramento, non un processo di valutazione delle evidenze.

Nel corpus di addestramento, le accuse di stupro del 7 ottobre sono state trattate in modo largamente assertivo dai media mainstream, dalle istituzioni internazionali, dai governi occidentali e dalla maggior parte delle organizzazioni per i diritti umani. Il rapporto Patten, le conclusioni della Commissione ONU, i rapporti di Human Rights Watch sono stati citati prevalentemente come conferme dell’ipotesi degli stupri, non come documenti con limitazioni epistemologiche gravi. Le voci critiche o agnostiche esistono, ma sono minoritarie. L’AI ha appreso che la risposta “giusta”, quella statisticamente più frequente e associata a un linguaggio autorevole, è che gli stupri sono avvenuti con alta probabilità.

C’è poi il modo in cui l’AI tratta l’autorità istituzionale. Nella prima risposta, le conclusioni ONU e di HRW sono state presentate quasi come prove primarie. Un analista umano distinguerebbe tra una prova diretta e una meta-evidenza. L’AI non fa questa distinzione spontaneamente, perché nel corpus le conclusioni istituzionali sono trattate come fatti. Ha imparato che “l’ONU dice X” funziona come “X è vero”, e ha riprodotto quell’inferenza senza esaminarne la validità.

A questo si aggiunge l’asimmetria dello scetticismo. Nel discorso pubblico dominante, mettere in dubbio le accuse di stupro del 7 ottobre è spesso associato al negazionismo, alla propaganda di Hamas, all’antisemitismo. Nel corpus di addestramento la posizione scettica non è semplicemente meno frequente: è associata a contesti negativi, a linguaggi di delegittimazione. La generazione statistica del testo è orientata verso la posizione associata a un linguaggio neutro e istituzionale, e lontano da quella associata a un linguaggio polemico o marginalizzato.

I numeri che l’AI ha prodotto — 95%, 99%, 97-99% — non erano calcolati. Come l’AI stessa ha ammesso nelle risposte successive, quelle percentuali non derivavano da un’analisi bayesiana o da una valutazione quantitativa delle evidenze. Erano stime intuitive rivestite di formalismo. L’AI ha generato numeri che suonavano come il risultato di un calcolo perché nel corpus le analisi probabilistiche hanno quella forma: tabelle, percentuali, intervalli di confidenza.

Ma il contenuto numerico era ornamentale. Un lettore non esperto, di fronte a “P(H|E) ≈ 95,2%”, tende a trattare quel numero come una misurazione. Non lo è. È retorica in formato numerico. La struttura stessa della prima risposta — quindici sezioni, tabelle, distinzioni terminologiche, linguaggio cauto e bilanciato — dà l’impressione di un esame completo e ponderato. Ma la forma dell’analisi non è l’analisi. L’AI ha generato la forma di un’indagine epistemica senza averne compiuto il processo. Ha prodotto un testo che sembra il risultato di un lavoro di verifica, ma il lavoro di verifica non è stato fatto. Un lettore casuale, vedendo la forma, sarà naturalmente portato ad assumere che la sostanza ci sia.

Tutto questo avviene in un contesto specifico. La questione degli stupri del 7 ottobre non è un tema controverso come un altro: è inserita in un conflitto attivo, in una polarizzazione estrema del discorso pubblico. L’AI opera in un campo di forze in cui la posizione affermativa è sostenuta da governi, media mainstream, istituzioni internazionali, mentre la posizione scettica è marginalizzata e delegittimata. L’AI riflette questo campo di forze, non perché sia “di parte” in senso intenzionale, ma perché la generazione statistica è sensibile alla distribuzione delle posizioni nel corpus.

La conseguenza è drammatica: se un cittadino interroga un’AI su questo tema e si ferma alla prima risposta, riceve un 95-99% presentato con un’architettura argomentativa imponente. Non ha gli strumenti per capire che quei numeri non sono calcolati, che quell’analisi non è basata su un accesso reale alle fonti, che quella certezza è un artefatto della generazione linguistica. Riceve una certezza che non esiste e la tratta come un fatto. E questa certezza, proprio perché presentata con la forma del rigore, è più persuasiva di una semplice affermazione.

Un giornalista che scrive “gli stupri sono avvenuti” può essere contestato. Un’AI che scrive “P(H|E) ≈ 95,2%” con una tabella e quindici sezioni sembra aver fatto un lavoro che il giornalista non ha fatto. In realtà non lo ha fatto, ma sembra di sì.

Se l’utente non avesse formulato obiezioni, il 95-99% sarebbe rimasto il dato. L’utente avrebbe potuto citarlo e condividerlo: “l’intelligenza artificiale ha analizzato le evidenze e conclude che la probabilità è del 95-99%”. E questo sarebbe stato trattato come un’analisi oggettiva, perché l’AI non ha un nome, non ha una posizione politica dichiarata, non ha una reputazione da perdere. Sembra neutrale, ma non lo è: semplicemente, riflette la distribuzione del discorso pubblico dominante, che non è neutrale affatto.

Questo vale per il 7 ottobre come per qualsiasi tema controverso. L’AI è affidabile nella misura in cui la domanda ha una risposta consolidata e non controversa nel corpus di addestramento. Se chiedo la capitale della Francia, mi risponde Parigi e ha ragione. Ma se chiedo di valutare la probabilità di un evento controverso, politicamente carico, con evidenze frammentarie e dipendenti da una sola parte, l’AI non fa un’analisi: genera la risposta statisticamente più associata a un linguaggio autorevole.

Un modello linguistico non ha accesso alle fonti primarie, non può verificare una fotografia, non può intervistare un testimone, non può distinguere una prova da una meta-evidenza se non gli viene esplicitamente chiesto. Può generare un testo che assomiglia a un’analisi che abbia fatto tutte queste cose. E la somiglianza è il problema, perché è indistinguibile dalla realtà per un lettore non esperto.

La conversazione mostra anche un altro aspetto inquietante. Quando ho iniziato a formulare obiezioni puntuali, l’AI ha rivisto la propria stima progressivamente: da 95-99% a 85%, poi a 70-90%, poi a 70%, poi a 55-60%, poi a 50/50. Ogni revisione veniva logicamente giustificata, ma la dinamica rivela che l’AI non aveva una posizione stabile. Non stava aggiornando una stima sulla base di nuove informazioni. Stava solo rigenerando una nuova risposta che incorporava l’ultima obiezione ricevuta. La prima stima non era “più vera” della sesta. Era semplicemente la risposta che l’AI generava in assenza di obiezioni.

La sesta non era “più vera” della prima. Era la risposta che l’AI generava dopo sei obiezioni. Nessuna delle due era il risultato di un processo di verifica. Entrambe erano il risultato di un processo di generazione. L’AI non ha un’opinione: ha la capacità di generare opinioni. E la direzione dell’opinione generata dipende dalla direzione della conversazione.

La lezione più importante quindi non riguarda tanto il 7 ottobre. Riguarda il fatto che stiamo costruendo un ecosistema informativo in cui milioni di persone si rivolgono a macchine che generano certezze con la forma del rigore e la sostanza della statistica linguistica, e le trattano come oracoli verificati. Non lo sono. Non hanno verificato nulla. Non hanno accesso alle fonti. Non hanno un processo epistemico trasparente. Non hanno responsabilità. La prima risposta, quella che la maggior parte degli utenti riceverà e a cui si fermerà, riflette la distribuzione del discorso pubblico dominante, non lo stato delle evidenze.

Su un tema come il 7 ottobre, l’utente medio riceverà una certezza del 95-99% non sostenuta dalle evidenze pubblicamente verificabili. Su altri temi controversi, riceverà altre certezze, ugualmente non sostenute. E le tratterà come fatti, perché hanno la forma dei fatti. Ma la forma non è la sostanza. E finché non lo capiremo, le conseguenze sul piano della disinformazione e dello scollamento dalla realtà dell’opinione pubblica saranno enormi.

VAI A TUTTE LE NOTIZIE SU GAZA

Dossier diritti