Il Nepal e l’alluvione di video generati con IA

Edifici travolti dall'esondazione a Nuwakot, in Nepal, il 27 agosto 2026 (REUTERS/Navesh Chitrakar)

L’enorme alluvione che il 26 agosto ha colpito la valle del fiume Bhote Koshi, nella regione himalayana del Nepal al confine con il Tibet, è una tragedia enorme, con un bilancio ancora in aggiornamento di morti, dispersi e feriti, oltre alla distruzione di case e interi villaggi.

In questi giorni mi è capitato di vedere diversi video che documentavano quanto accaduto. Ancora più spesso mi è capitato di imbattermi in video falsi generati con l’intelligenza artificiale. Non mi è chiaro lo scopo degli autori. A naso potrei ipotizzare la volontà di attirare interazioni sui social network, attraverso stratagemmi ignobili.

Il fenomeno della disinformazione, naturalmente, esisteva già prima dell’intelligenza artificiale. Fotografie decontestualizzate, vecchi video riciclati e immagini manipolate accompagnano da molti anni guerre, elezioni e catastrofi naturali. Quello che sta cambiando è però la scala del fenomeno. Oggi è possibile produrre in pochi minuti un numero potenzialmente enorme di fotografie e video completamente falsi ma sufficientemente credibili da confondersi, almeno durante una visione veloce sui social, con la documentazione autentica.

Nel caso in questione, si è raggiunto un tale livello di saturazione di contenuti falsi, manipolati o decontestualizzati che il governo nepalese ha deciso di incontrare i rappresentanti locali di Meta e TikTok per sollecitare interventi contro quattro categorie di contenuti: video/immagini generati con IA e vecchi contenuti ripresentati come attuali, oltre a immagini cruente e falsi QR code per raccogliere donazioni.

Le piattaforme dispongono già di referenti attraverso i quali il governo può segnalare i post, ma secondo l'autorità nepalese impiegano dalle 24 alle 48 ore a intervenire e quel lasso di tempo è sufficiente a renderli virali, a fare disinformazione e a commettere anche truffe e abusi.

Nell’articolo “In disaster aftermath, Nepal battles a flood of misinformation” (qui il link), pubblicato dal Kathmandu Post, viene raccontata proprio questa seconda catastrofe, quella informativa, che si è sovrapposta alla prima.

Ora, proviamo a immaginare se un fenomeno di questa intensità si verificasse contemporaneamente su più grandi eventi di attualità. Come il referendum in Islanda sulla ripresa dei negoziati di adesione all’Unione Europea, alluvioni e grandinate in Italia, gli attacchi con droni e missili in Ucraina, Palestina o Russia, ecc.

Per ognuno di questi eventi potrebbero cominciare a circolare, nel giro di poche ore, decine o centinaia di fotografie e video falsi, mescolati a quelli autentici.

Già oggi, con bias e bolle social, si è visto quanto sia facile dissociarsi dalla realtà, ma nello scenario immaginato sarebbe ancora più semplice perdere completamente la bussola e, con essa, la fiducia nell’informazione.

---

𝗔 𝘄𝗮𝘃𝗲 𝗼𝗳 𝗔𝗜-𝗴𝗲𝗻𝗲𝗿𝗮𝘁𝗲𝗱 𝘃𝗶𝗱𝗲𝗼𝘀

The devastating flood that struck the Bhote Koshi River valley on 26 August, in Nepal’s Himalayan region along the border with Tibet, is already an enormous tragedy, with the number of dead, missing and injured still being updated, as well as homes and entire villages destroyed.

Over the past few days, I have come across several videos documenting what happened. Even more often, however, I have encountered fake videos generated using artificial intelligence. It is not entirely clear to me what those creating them are trying to achieve. At a guess, I would say it is largely an attempt to attract engagement on social media through particularly disgraceful tactics.

Disinformation, of course, existed long before artificial intelligence. Photographs taken out of context, old videos recycled as current footage and manipulated images have accompanied wars, elections and natural disasters for many years. What is changing, however, is the scale of the phenomenon. Today, it is possible to produce, within minutes, a potentially enormous number of completely fabricated photographs and videos that are nevertheless credible enough to be mistaken, at least during a quick scroll through social media, for authentic documentation.

In this particular case, the saturation of false, manipulated or decontextualised content has reached such a level that the Nepalese government decided to meet local representatives of Meta and TikTok to urge them to take action against four categories of content: AI-generated videos and images, old material presented as current, graphic images, and fake QR codes used to solicit donations.

The platforms already have designated contacts through whom the government can report problematic posts, but according to the Nepalese authorities it can take between 24 and 48 hours for them to act. That is more than enough time for false content to go viral, spread misinformation and also be used for scams and other abuses.

The article “In disaster aftermath, Nepal battles a flood of misinformation” (link in the comments), published by the Kathmandu Post, describes precisely this second disaster: the information disaster that has unfolded on top of the first.

Now imagine if a phenomenon of this intensity were to occur simultaneously around several major news events: the referendum in Iceland on resuming negotiations to join the European Union, floods and hailstorms in Italy, drone and missile attacks in Ukraine, Palestine or Russia, and so on.

For each of these events, within the space of just a few hours, dozens or hundreds of false photographs and videos could begin circulating alongside authentic ones.

Even today, with confirmation biases and social media bubbles, we have already seen how easy it can be to become increasingly detached from reality. In the scenario described above, it would become even easier to lose our bearings completely — and, with them, our trust in information itself.

Non basta dire che è falso

Non basta dire che è falso

In questi giorni sta girando una immagine modificata con l’intelligenza artificiale che mostra una realtà falsa in cui il colono israeliano e la donna palestinese - di cui si è parlato molto nei giorni scorsi e di cui ho scritto nel post “L’Abuso” - sorridono e si danno la mano, in un atteggiamento complice che lascerebbe pensare che l’abuso dell’uomo sulla donna, visibile nella potente fotografia del fotogiornalista Pietro Masturzo, apparsa sulla copertina del settimanale L’Espresso, possa essere in realtà una messa in scena.

Si tratta di un tentativo meschino di alterare i fatti. Dopo vari tentativi di sminuire l’episodio (uno dei tanti abusi, noti, dei coloni israeliani verso i palestinesi), evidentemente qualcuno ha provato a giocare la carta del complotto.

Oltre a questo, però, c’è una ingenuità che vedo ripetersi da tempo, compiuta da alcuni debunker, fact-checker o anche semplici persone in buona fede che denunciano immagini false o generate con l’IA, che consiste nel ripubblicarle integralmente, senza inserire sull’immagine un watermark evidente che le identifichi subito come fake.

Nel tentativo di smontare un tentativo di disinformazione, si rischia di alimentarne la circolazione. Queste immagini fake, senza l’indicazione visiva che sono fake, vengono condivise, screenshottate, salvate, ritagliate e ricondivise altrove, rischiando di perdere il contesto originale della smentita.

Possono comparire nei risultati dei motori di ricerca, nelle anteprime o nelle ricerche per immagini, dove molti utenti le vedranno senza aprire l’articolo che spiega che si tratta di un falso.

In un ecosistema digitale dove il contenuto viaggia più veloce della spiegazione, non basta dire “questa immagine è fake”, ma è necessario renderlo visibile sull’immagine stessa. Altrimenti il tentativo di smontare la disinformazione rischia di diventare, involontariamente, promozione della fake news.

Corso/Seminario - Il rapporto fra fotografia, informazione e intelligenza artificiale

View fullsize

Corso/Seminario
INFRANGERE LO SPECCHIO
Il rapporto fra fotografia, informazione e intelligenza artificiale

Questo percorso si propone come uno spazio di confronto, pensato soprattutto per chi oggi sta costruendo il proprio sguardo sul mondo: studenti, giovani fotografi, artisti visivi, aspiranti giornalisti e tutte le persone interessate a comprendere il ruolo delle immagini nella società contemporanea.

Temi trattati: fotografia documentaria e pratiche della rappresentazione; cultura visuale e trasformazioni dell’ecosistema informativo; intelligenza artificiale generativa e produzione di immagini sintetiche; processi di produzione, circolazione, interpretazione e verifica delle immagini; pratiche autoriali e progettazione visiva nell’era dell’IA; casi di studio tratti dal fotogiornalismo e dalla comunicazione contemporanea; implicazioni culturali, sociali ed epistemologiche delle tecnologie emergenti.

Il seminario si concentra sull’incontro fra fotografia e intelligenza artificiale, esplorando l’evoluzione del processo creativo e le trasformazioni del ruolo dell’immagine nella comunicazione, nel giornalismo e nella vita quotidiana.

Il docente presenterà alcuni dei suoi progetti di fotografia documentaria, esponendo nel dettaglio la filosofia che li sostiene e le metodologie pratiche adottate. Saranno inoltre analizzate le differenze teoriche e pratiche tra il processo fotografico tradizionale e l’impiego dell’IA nella produzione delle immagini, mostrando come queste tecnologie possano introdurre nuove possibilità creative e modificare le modalità con cui un progetto viene concepito, costruito e interpretato.

In un’epoca di deepfake, algoritmi opachi e flussi visivi incontrollati, il ruolo di fotografi, giornalisti e comunicatori non si esaurisce nella testimonianza, ma implica sempre più una funzione critica, che richiede di interrogarsi su responsabilità, etica, trasparenza e fiducia. Comprendere questi meccanismi diventa essenziale per non subire passivamente le immagini, ma per imparare a leggerle, smontarle e, se necessario, usarle consapevolmente come forma di resistenza culturale.

Saranno esaminati casi recenti che hanno avuto un impatto significativo nel panorama dell’informazione internazionale. Saranno affrontati sia i timori legati all’adozione di questa nuova tecnologia, sia le potenzialità che porta con sé, aprendo un dibattito sul futuro dell’arte fotografica e della nostra interazione con le immagini digitali.

La fotografia e l’IA non sono strumenti da temere o da idolatrare, ma linguaggi da comprendere a fondo per poterli usare con lucidità, immaginazione e senso critico. L’obiettivo non è fornire risposte definitive, ma stimolare domande urgenti su chi siamo, su come raccontiamo il mondo e su quale responsabilità scegliamo di assumerci nel farlo.

La questione centrale non è soltanto ciò che queste tecnologie saranno in grado di fare, ma il modo in cui sceglieremo di utilizzarle, integrandole nella produzione culturale senza rinunciare a responsabilità, consapevolezza e capacità critica.

Il percorso è modulabile per durata e formato in base al contesto e al pubblico di riferimento. Offre strumenti critici per leggere e interpretare le immagini contemporanee e per comprendere come fotografia e intelligenza artificiale influenzino l’informazione e la costruzione della realtà. I partecipanti acquisiranno una maggiore consapevolezza dei meccanismi tecnologici, culturali e di potere che agiscono dietro le immagini, sviluppando un approccio responsabile, creativo e informato al loro utilizzo.

---

Docente
FILIPPO VENTURI
Fotografo documentarista, artista visivo, docente e divulgatore

Collabora con diverse realtà, tra cui l’Università di Bologna, dove tiene un corso di Fotografia nell’ambito del Master in Giornalismo e un corso dedicato alle Immagini Generate con IA per il Master in Nuovi Media.

I suoi progetti indagano l’identità e la condizione umana. Nel corso degli anni ha raccontato dittature, democrazie in crisi, movimenti impegnati nella difesa dei diritti e profonde trasformazioni sociali in diverse aree del mondo. Nel 2017, su incarico di Vanity Fair, ha realizzato un ampio reportage in Corea del Nord, in un momento di particolare tensione internazionale.

Una parte significativa della sua ricerca è dedicata al modo in cui l’evoluzione tecnologica sta trasformando la fotografia, l’informazione e la nostra percezione della realtà. Grazie a una laurea in Scienze dell’Informazione e alla sua lunga esperienza nel fotogiornalismo, Venturi mette in relazione pratiche fotografiche tradizionali e tecnologie emergenti, interrogandosi sulla natura, sulla credibilità e sulla funzione delle immagini nel presente.

I suoi progetti sono stati pubblicati da importanti testate, tra cui National Geographic, The Washington Post, The Guardian, Financial Times, Vanity Fair, Marie Claire, Geo, Der Spiegel, Internazionale, La Repubblica, Corriere della Sera e La Stampa.

Dal 2023 ha sviluppato una serie di progetti concettuali che intrecciano fotografia e IA, ottenendo riconoscimenti in concorsi e festival.

Accanto alla pratica artistica, svolge un’intensa attività didattica dedicata al fotogiornalismo, alla fotografia documentaria e all’intelligenza artificiale, intervenendo regolarmente in contesti accademici e culturali. I suoi corsi e seminari sono stati ospitati dalla New York University, dall’Università di Padova, dall’Accademia di Belle Arti di Roma, dal Copenhagen Photo Festival e dal festival BergamoScienza.

www.filippoventuri.photography
filippo.venturi@gmail.com

La fotografia fake dell'arresto di Nicolas Maduro

Questa fotografia (o frame da un video) che circola online mostrerebbe l'arresto di Nicolás Maduro, Presidente del Venezuela, da parte dalle forze statunitensi.

In attesa di sviluppi (verifiche ed eventuali smentite andrebbero sempre aspettate, ma oggi adottiamo un sistema di informazione e comunicazione che non tollera l'attesa) possiamo affermare che molto probabilmente non è una fotografia e nemmeno un frame estratto da un video reale, ma che si tratta di una immagine generata con intelligenza artificiale.

Proviamo a seguire i 4 passaggi che avevo suggerito ormai un anno fa, in casi analoghi (vedi il link nei commenti; sottolineo che, anche quando tutti i passaggi sembrano indicare una risposta univoca, non sempre possiamo giungere a una certezza assoluta):

1) L’affidabilità della fonte: al momento non ho trovato fonti giornalistiche affidabili che la riportino dopo le opportune verifiche e conferme.

2) L’ambiguità visiva: l'immagine riporta un timestamp anacronistico e che sembra più un tentativo di rafforzare la credibilità e attualità dell'immagine come documento. Il volto di Maduro sembra staccarsi troppo dal resto della immagine (come nitidezza e come effetto patinato). Le divise dei due militari hanno qualche anomalia, come la dicitura "DEA" ben visibile. Non è da escludere che il tutto sembri posticcio perché inscenato per produrre materiale visivo da diffondere. Personalmente però tenderei a considerarla una immagine generata.

3) Software di riconoscimento: viene rilevata la filigrana SynthID (quindi di una immagine generata con intelligenza artificiale).

4) Prove di supporto: non ho trovato foto o video o registrazioni audio di momenti immediatamente precedenti o successivi alla situazione mostrata nell'immagine.

La mia personale conclusione è quindi che si tratti di una immagine falsa di un evento reale (l'effettivo arresto di Maduro non è in discussione), che rende visibile qualcosa di cui, al momento, non ci sono prove visibili.

Ci troviamo di fronte a una dinamica che si è fatta largo nel mondo contemporaneo (occidentale, ma non solo, come dimostra il fatto che numerosi media asiatici abbiano utilizzato questa immagine come prova reale) in cui la realtà necessita di prove visive per consolidarsi come tale. A qualsiasi costo. Fino al paradosso di inventare un’immagine per confermare la realtà.

L'accettare l'uso di questo tipo di immagini, per questo scopo, fortunatamente è ancora considerato inaccettabile nel mondo dell'informazione di qualità.

Olimpiadi di Parigi 2024 e Fake News

Oggi vicinanza ad Angela Carini.

Domani (forse) scopriremo che anche Imane Khelif è vittima di una narrazione che l'ha dipinta come un uomo che ha fatto irruzione alle olimpiadi, fra le donne. E invece ha affrontato situazioni complesse e persino dolorose, senza trarre chissà quale beneficio dalla sua condizione, in quanto a risultati sportivi (basta guardare il suo palmares).

Dopodomani tireremo lo sciacquone, perché in fondo non ci interessa di loro, ma vogliamo solo posizionarci socialmente e digeriremo un'altra vicenda attuale.

(Si, pure io lo sto facendo con questo post)

---

Le Olimpiadi di Parigi 2024 ci hanno confermato che non è necessaria l'intelligenza artificiale per generare scandali e polemiche, spesso basati su falsità o sul nulla. E' sufficiente creare storie sensazionalistiche oppure ingiuste che confermano qualche nostro pregiudizio (bias), così da spingerci a parlarne (e a diffonderle) senza attendere approfondimenti o senza verificare personalmente. In particolare diverse fake news hanno come finalità attaccare le persone queer.

1) Le foto delle nuotatrici con sul costume, ad altezza genitali, la scritta "not a dude" (non sono un maschio) sono dei fotomontaggi. Non è mai avvenuta una protesta contro la presenza di persone trans alle Olimpiadi, come si è cercato di far credere.

2) La pugilessa algerina Imane Khelif non è un uomo e non è un trans. E' una donna il cui corpo produce più testosterone della media. Aveva già partecipato a tornei di boxe femminile, ottenendo risultati a volte modesti a volte buoni, venendo sconfitta da altre pugilesse. Si allena con le pugilesse donne, che quindi la conoscono. Non è un uomo che ha fatto irruzione alle Olimpiadi negli sport femminili, insomma.

P.S. L'Algeria non riconosce la transizione di genere, criminalizza l'omosessualità ed è sotto la guida di un regime autoritario, quindi se Imane Khelif fosse un trans, non sarebbe alle Olimpiadi ma in carcere.

3) Un ballerino, al banchetto con le drag queen, avrebbe mostrato un testicolo durante la cerimonia inaugurale delle Olimpiadi. In realtà si tratta di un buco nelle calze.

4) Il tiratore turco Yusuf Dikec non è un meccanico che è arrivato alle Olimpiadi un po' per caso. E' un atleta che fa uso di meno tecnologia, rispetto ad altri, ma non ha caratteristiche fuori dal comune. Nella sua carriera ha numerose vittorie. Però la sua storia sarebbe risultata meno sbalorditiva se non si fosse associato al suo look sobrio un passato da uomo comune e lontano dall'ambiente delle gare con pistola ad aria.

5) Il politico di Fratelli d’Italia, Lucio Malan, ha denunciato su Twitter la presenza di un elemento, un vitello d'oro, all'inaugurazione delle olimpiadi, che sarebbe risultato il simbolo di un attacco alla cristianità, ignaro che si tratti di toro di bronzo e che sia una scultura presente a Parigi dal 1937.