Grok

Il Nepal e l’alluvione di video generati con IA /  by Filippo Venturi

Edifici travolti dall'esondazione a Nuwakot, in Nepal, il 27 agosto 2026 (REUTERS/Navesh Chitrakar)

L’enorme alluvione che il 26 agosto ha colpito la valle del fiume Bhote Koshi, nella regione himalayana del Nepal al confine con il Tibet, è una tragedia enorme, con un bilancio ancora in aggiornamento di morti, dispersi e feriti, oltre alla distruzione di case e interi villaggi.

In questi giorni mi è capitato di vedere diversi video che documentavano quanto accaduto. Ancora più spesso mi è capitato di imbattermi in video falsi generati con l’intelligenza artificiale. Non mi è chiaro lo scopo degli autori. A naso potrei ipotizzare la volontà di attirare interazioni sui social network, attraverso stratagemmi ignobili.

Il fenomeno della disinformazione, naturalmente, esisteva già prima dell’intelligenza artificiale. Fotografie decontestualizzate, vecchi video riciclati e immagini manipolate accompagnano da molti anni guerre, elezioni e catastrofi naturali. Quello che sta cambiando è però la scala del fenomeno. Oggi è possibile produrre in pochi minuti un numero potenzialmente enorme di fotografie e video completamente falsi ma sufficientemente credibili da confondersi, almeno durante una visione veloce sui social, con la documentazione autentica.

Nel caso in questione, si è raggiunto un tale livello di saturazione di contenuti falsi, manipolati o decontestualizzati che il governo nepalese ha deciso di incontrare i rappresentanti locali di Meta e TikTok per sollecitare interventi contro quattro categorie di contenuti: video/immagini generati con IA e vecchi contenuti ripresentati come attuali, oltre a immagini cruente e falsi QR code per raccogliere donazioni.

Le piattaforme dispongono già di referenti attraverso i quali il governo può segnalare i post, ma secondo l'autorità nepalese impiegano dalle 24 alle 48 ore a intervenire e quel lasso di tempo è sufficiente a renderli virali, a fare disinformazione e a commettere anche truffe e abusi.

Nell’articolo “In disaster aftermath, Nepal battles a flood of misinformation” (qui il link), pubblicato dal Kathmandu Post, viene raccontata proprio questa seconda catastrofe, quella informativa, che si è sovrapposta alla prima.

Ora, proviamo a immaginare se un fenomeno di questa intensità si verificasse contemporaneamente su più grandi eventi di attualità. Come il referendum in Islanda sulla ripresa dei negoziati di adesione all’Unione Europea, alluvioni e grandinate in Italia, gli attacchi con droni e missili in Ucraina, Palestina o Russia, ecc.

Per ognuno di questi eventi potrebbero cominciare a circolare, nel giro di poche ore, decine o centinaia di fotografie e video falsi, mescolati a quelli autentici.

Già oggi, con bias e bolle social, si è visto quanto sia facile dissociarsi dalla realtà, ma nello scenario immaginato sarebbe ancora più semplice perdere completamente la bussola e, con essa, la fiducia nell’informazione.

𝗔 𝘄𝗮𝘃𝗲 𝗼𝗳 𝗔𝗜-𝗴𝗲𝗻𝗲𝗿𝗮𝘁𝗲𝗱 𝘃𝗶𝗱𝗲𝗼𝘀

The devastating flood that struck the Bhote Koshi River valley on 26 August, in Nepal’s Himalayan region along the border with Tibet, is already an enormous tragedy, with the number of dead, missing and injured still being updated, as well as homes and entire villages destroyed.

Over the past few days, I have come across several videos documenting what happened. Even more often, however, I have encountered fake videos generated using artificial intelligence. It is not entirely clear to me what those creating them are trying to achieve. At a guess, I would say it is largely an attempt to attract engagement on social media through particularly disgraceful tactics.

Disinformation, of course, existed long before artificial intelligence. Photographs taken out of context, old videos recycled as current footage and manipulated images have accompanied wars, elections and natural disasters for many years. What is changing, however, is the scale of the phenomenon. Today, it is possible to produce, within minutes, a potentially enormous number of completely fabricated photographs and videos that are nevertheless credible enough to be mistaken, at least during a quick scroll through social media, for authentic documentation.

In this particular case, the saturation of false, manipulated or decontextualised content has reached such a level that the Nepalese government decided to meet local representatives of Meta and TikTok to urge them to take action against four categories of content: AI-generated videos and images, old material presented as current, graphic images, and fake QR codes used to solicit donations.

The platforms already have designated contacts through whom the government can report problematic posts, but according to the Nepalese authorities it can take between 24 and 48 hours for them to act. That is more than enough time for false content to go viral, spread misinformation and also be used for scams and other abuses.

The article “In disaster aftermath, Nepal battles a flood of misinformation” (link in the comments), published by the Kathmandu Post, describes precisely this second disaster: the information disaster that has unfolded on top of the first.

Now imagine if a phenomenon of this intensity were to occur simultaneously around several major news events: the referendum in Iceland on resuming negotiations to join the European Union, floods and hailstorms in Italy, drone and missile attacks in Ukraine, Palestine or Russia, and so on.

For each of these events, within the space of just a few hours, dozens or hundreds of false photographs and videos could begin circulating alongside authentic ones.

Even today, with confirmation biases and social media bubbles, we have already seen how easy it can be to become increasingly detached from reality. In the scenario described above, it would become even easier to lose our bearings completely — and, with them, our trust in information itself.

Sheep in the Box. Il sogno di sottrarre qualcuno alla morte /  by Filippo Venturi

Ieri ho visto “Sheep in the Box”, il nuovo film di Hirokazu Kore-eda, regista giapponese che apprezzo soprattutto per la sensibilità con cui riesce a raccontare i rapporti familiari.

Pochi giorni fa avevo scritto di un altro suo film, “Father & Son”, soffermandomi in particolare su una scena in cui la fotografia assumeva un ruolo decisivo (per chi è curioso, qui il link).

In quel film due famiglie scoprono, sei anni dopo la nascita dei rispettivi figli, che i bambini sono stati scambiati alla nascita in ospedale. Devono quindi decidere se continuare a vivere con il figlio che hanno cresciuto oppure ricongiungersi con quello biologico. Kore-eda pone una domanda solo apparentemente semplice. Cosa rende qualcuno nostro figlio? Il sangue? La somiglianza? Il tempo trascorso insieme? I ricordi? L'affetto?

Con “Sheep in the Box”, il regista sembra riprendere quella domanda, spostandola in un futuro prossimo e introducendo un elemento nuovo: l'intelligenza artificiale. I coniugi Kōmoto hanno perso il loro figlio Kakeru, di sette anni. Due anni dopo ricevono una proposta da REbirth, un'azienda che offre loro un androide basato sull'intelligenza artificiale, realizzato con le sembianze e la voce del bambino scomparso. La coppia accetta.

In “Father & Son” il regista mostrava che la biologia, da sola, non è sufficiente a definire un figlio. In “Sheep in the Box” sembra suggerire che nemmeno la perfetta riproduzione dell'aspetto e della voce di una persona può essere sufficiente a restituircela.

Una persona non coincide né con il proprio patrimonio genetico né con la propria apparenza, ma è anche (e forse soprattutto) la storia delle relazioni che ha costruito con gli altri.

Nel 2023 ho realizzato “He Looks Like You”, un progetto nel quale ho unito fotografie autentiche e immagini generate con l’IA per rappresentare l’incontro fra mio padre Giorgio e mio figlio Ulisse. Si trattava di false fotografie di famiglia, dato che mio padre è morto cinque anni prima della nascita di mio figlio e quindi i due non si sono mai potuti conoscere. Erano immagini create nel tentativo, attraverso arte e tecnologia, di trovare una forma di consolazione e di accedere a luoghi che nella realtà erano e resteranno irraggiungibili.

Guardando “Sheep in the Box” ho inevitabilmente ripensato a quel lavoro. Kore-eda porta l'esperimento ancora un passo più avanti, immaginando una situazione nella quale la persona scomparsa può tornare presente, occupare nuovamente uno spazio nella casa, abbracciarci e creare nuove esperienze.

Una simulazione può produrre emozioni autentiche senza che ciò che rappresenta sia autentico. Così come le fotografie di “He Looks Like You” sono false, ma non è necessariamente falso quello che provocano in chi le guarda, a partire da me.

Allo stesso modo il Kakeru artificiale non è il bambino morto, ma gli affetti, le paure, la tenerezza o il dolore che genera nei suoi genitori sono reali. Naturalmente i genitori sono al corrente della differenza, ma questa consapevolezza tende rapidamente a sfumare mentre vivono (o rivivono) determinati sentimenti.

Il titolo del film offre una chiave per capirlo. “Sheep in the Box” rimanda infatti a “Il Piccolo Principe” di Antoine de Saint-Exupéry. Quando il Piccolo Principe chiede al pilota di disegnargli una pecora e continua a non essere soddisfatto dei suoi tentativi, il pilota finisce per disegnare semplicemente una scatola, dicendogli che la pecora che desidera si trova al suo interno. E questa operazione viene compiuta dai genitori con l’androide. Sono loro a vederci il figlio dentro.

Quando chiediamo a un software di costruire l'immagine di qualcosa che non è mai accaduto (due familiari che non si sono mai incontrati, un evento mai avvenuto, ecc.) quell'immagine non contiene realmente quel passato. Siamo noi a riempirla.

 “Sheep in the Box” non mi ha però soddisfatto completamente. Il film mette molta carne al fuoco: il lutto, l'identità, la memoria, la famiglia, la sostituibilità delle persone, il rapporto fra uomini e macchine, l'autonomia delle intelligenze artificiali, il confine fra imitazione ed esperienza. Molti di questi elementi non vengono però approfonditi o sviluppati in modo esauriente, almeno per me.

La delicatezza di Kore-eda rimane invece intatta. La tecnologia non viene rappresentata come una minaccia che conquisterà il mondo, né il film sembra particolarmente interessato a stabilire se l'intelligenza artificiale sia buona o cattiva. Kore-eda continua a fare quello che ha sempre fatto nel suo cinema. Osservare una famiglia.

Terminata la proiezione, ne ho discusso a lungo e in modo molto coinvolgente con gli amici con cui ero andato al cinema. Poi ho continuato a pensarci, ho fatto alcune ricerche online e inevitabilmente ho collegato il film ad altre esperienze e riflessioni personali. Ci sono film che terminano insieme ai titoli di coda. In questo caso qualcosa ha continuato a ronzarmi dentro anche dopo.

Migranti di Ceuta e intelligenza artificiale /  by Filippo Venturi

Una fotografia senza contesto, una notizia contraddittoria e il sospetto di un'immagine generata dall'IA

In questi giorni in cui sono in ferie, avevo notato un’immagine un po’ sospetta e mi sarei aspettato nei giorni successivi di leggere qualche verifica di fact-checker “noti”, ma non è accaduto.

Il 7 agosto il quotidiano Secolo d’Italia pubblica il seguente articolo:
”Schengen, 15 irregolari provenienti dalla Spagna respinti negli aeroporti italiani: i fatti danno ragione al governo”, pubblicando a corredo quella che sembra una immagine d’archivio, con due poliziotti che svolgono dei controlli e la didascalia ”Foto: Ansa / Telenews (1 agosto 2026)”.

La fotografia non presenta particolari anomalie o curiosità, ma l’articolo al suo interno sembra contraddire il titolo perché dice “A riferire questo primo risultato è stata La Verità, facendo riferimento a fermi avvenuti in cinque diversi aeroporti: Linate, Malpensa, Bologna, Torino e Orio al Serio“. Non sono riuscito a reperire l'articolo originale de La Verità, quindi non posso verificare direttamente il contesto e la formulazione della notizia, ma l’aspetto più importante è che si tratta di fermi avvenuti in 5 aeroporti diversi, cosa che sarà importante in seguito.

In seguito l’articolo dice “Si tratta di extracomunitari privi di un permesso per circolare nel territorio italiano. Non è stato ancora possibile stabilire se fra questi 15 stranieri irregolari ci fossero anche immigrati passati dall’enclave spagnola in Africa“, il che fa dubitare sulla correttezza del titolo.

La notizia è stata condivisa su Facebook dalla pagina ufficiale di Fratelli d’Italia, utilizzando una immagine che mostra 13 migranti fermati da 4 poliziotti.

L’immagine presenta alcune anomalie:
1) L’immagine è priva di didascalia o comunque di un testo che la contestualizzi.
2) La scritta Polizia sulla schiena del poliziotto al centro sembra deformata, così come la scritta subito sotto, ricordando alcuni difetti tipici delle immagini generate con intelligenza artificiale (IA).
3) Anche l'abbigliamento dei presenti appare, a prima vista, poco compatibile con le temperature del periodo; si tratta tuttavia di un elemento secondario, così come altri dettagli presenti.
4) Se i 15 respingimenti sono avvenuti in cinque aeroporti diversi, non è però possibile stabilire che le 13 persone mostrate nell’immagine corrispondano a una parte di quei 15 casi. In assenza di una didascalia o di una fonte che identifichi l'immagine, il collegamento con la notizia rimane quindi non dimostrato.

Ci sono quindi vari livelli in cui questa notizia presenta delle criticità:
1) La notizia non dimostra che i 15 respinti provenissero da Ceuta — Prendendo per buona la notizia dei 15 fermi, è il quotidiano stesso a dire che non è stato possibile verificare quanti di questi 15 migranti provenissero da Ceuta. Appare un po’ affrettato quindi riconoscere dei meriti al governo circa la temporanea sospensione della libera circolazione Schengen nei collegamenti con la Spagna, senza dati verificati.
2) L’immagine non è contestualizzata e non viene fornita una fonte — L’immagine usata su Facebook da Fratelli d’Italia (e che non ho trovato altrove, se non dagli utenti che l’hanno condivisa partendo dal post Facebook) solleva qualche dubbio: prima di tutto non è presentata con una didascalia o descrizione, ma è semplicemente accostata alla notizia dei 15 fermi, lasciando quindi pensare che sia relativa a quell’evento. Il problema però è che presenta alcune anomalie tipiche dell’IA, come la scritta POLIZIA deformata e il testo subito sotto.
3) L'ipotesi IA — A parere personale, potrebbe essere una fotografia scelta da un altro contesto oppure, più probabilmente, l’ennesimo caso di immagine generata utilizzata a scopo illustrativo di un evento realmente accaduto (i 15 fermi, ma la notizia stessa si contraddice fra titolo e articolo, non rendendo possibile trarre conclusioni sicure), ma scelta o costruita in modo da risultare più efficace sul piano comunicativo e più persuasiva nei confronti del pubblico. Una immagine fotografica apocrifa (di cui avevo già parlato qui).

Immagine condivisa sulla pagina Facebook di Fratelli d’Italia, che riprende la notizia del quotidiano Secolo d’Italia

Pagina del quotidiano Secolo d’Italia, che usa una fotografia Ansa a corredo dell’articolo.

Immagini fotografiche apocrife /  by Filippo Venturi

Immagine generata con intelligenza artificiale e diventata virale sui social nell’estate del 2026. Raffigura un agente marocchino nell’atto di lanciare una grossa pietra contro un uomo indicato in alcune pubblicazioni come un migrante di ritorno da Ceuta. Secondo i controlli di Verificat, l’immagine sintetica ricostruisce una scena molto simile a quella documentata da un video ripreso da lontano a Fnideq, sul lato marocchino del confine con Ceuta. La scena si inserisce nella crisi migratoria del 30 e 31 luglio, quando decine di migliaia di persone entrarono irregolarmente a Ceuta dal Marocco. Nei giorni immediatamente successivi la grande maggioranza tornò indietro: secondo la stima comunicata il 4 agosto dal ministro dell’Interno spagnolo, circa 70.000 delle 72.000 persone entrate avevano già fatto ritorno in Marocco.

Questa immagine di un agente di polizia che lancia una pietra contro una persona, che secondo alcune fonti sarebbe un migrante che cerca di tornare in Marocco da Ceuta, è diventata virale sui social media in queste ore perché raffigura un momento terribile che diventa anche il simbolo di una questione che è ormai da anni al centro dell'attualità, cioè il fenomeno migratorio.

Fenomeno che, da una parte, viene raccontato come un’invasione, presentando il gesto dell’uomo che solleva la pietra come la reazione esasperata di chi difende un confine; dall’altra, come l’esibizione di una forza sproporzionata contro persone vulnerabili, talvolta utilizzata dai governi per alimentare la paura e distogliere l’attenzione da altri problemi.

Questa immagine, però, è stata generata con l’intelligenza artificiale, come rilevato da alcune testate e organizzazioni di fact-checking, tra cui Verificat in un articolo pubblicato da La Vanguardia. Già a un primo sguardo presentava alcuni elementi poco convincenti, ma da tempo il semplice sospetto non è più sufficiente e occorre verificare la provenienza dei contenuti e cercare riscontri attendibili.

L’episodio raffigurato sembra essere realmente avvenuto ed è documentato da un video ripreso da lontano, sul quale al momento non sono emersi elementi per dubitare della sua autenticità. L’immagine virale non è quindi una fotografia autentica né un semplice fotogramma del filmato, ma una ricostruzione generativa della scena, presumibilmente realizzata utilizzando come riferimento un fotogramma estratto dal video.

Confronto tra un fotogramma del video circolato sui social, a sinistra, e l’immagine generata con intelligenza artificiale, a destra. La ricostruzione conserva la struttura fondamentale della scena e il gesto dell’agente, ma trasforma un’immagine distante e poco definita in una rappresentazione nitida, immediatamente leggibile e visivamente più drammatica.

È proprio questa sovrapposizione tra la falsità dell’immagine e la verità dell’evento a rendere il fenomeno particolarmente insidioso. La semplice opposizione tra vero e falso diventa insufficiente a descrivere ciò che accade: ciò che vediamo non documenta il fatto, ma nemmeno lo inventa necessariamente. Ne produce invece una rappresentazione plausibile, costruita a posteriori, che può finire per sostituirsi, nella memoria collettiva, alle immagini realmente disponibili.

È quindi un tipo di immagine para-documentaria, che potremmo definire anche immagine fotografica apocrifa, che si sta imponendo, come visto nei mesi scorsi con l’intervento degli “eroi di Modena" o con il poliziotto aggredito a Torino e soccorso da un collega o ancora con l'arresto di Maduro (caso in cui l'immagine era però stata inventata completamente, senza partire da una documentazione video o di altro tipo), che racconta qualcosa di realmente avvenuto ma con un’estetica più pulita dei fotogrammi disponibili e che, in qualche modo, soddisfa maggiormente il fruitore grazie al suo essere immediatamente leggibile, al suo accentuare la componente emotiva e a essere visivamente più appagante, consentendole di diventare memorabile.

Modena, 16 maggio 2026. A sinistra, un fotogramma del video che documenta alcuni cittadini mentre immobilizzano Salim El Koudri dopo la fuga seguita all’investimento di alcuni pedoni nel centro della città. A destra, una ricostruzione della stessa scena generata con intelligenza artificiale, più nitida, ordinata e visivamente leggibile del materiale originale. Un evento realmente documentato viene così trasformato in un’immagine che sembra fotografica, ma non costituisce una testimonianza diretta di quel momento.

Torino, 31 gennaio 2026. A sinistra, alcuni fotogrammi del video che documenta il momento in cui l’agente di Polizia Lorenzo Virgulti raggiunge e protegge il collega Alessandro Calista, appena aggredito durante gli scontri avvenuti nel corso del corteo in sostegno di Askatasuna. A destra, la ricostruzione realizzata con intelligenza artificiale e successivamente diffusa anche dai canali istituzionali: la scena reale viene resa più nitida e drammatica, ma diversi elementi — dal volto dell’agente alla maschera antigas, allo scudo e allo sfondo — risultano modificati o ricostruiti.

L’aspetto forse più interessante è che l’efficacia di queste immagini può sopravvivere perfino alla scoperta della loro natura artificiale. Una volta accertato che il fatto è realmente avvenuto, lo spettatore può continuare a considerare quella rappresentazione sostanzialmente vera, anche sapendo che quel preciso istante non è mai esistito davanti a un obiettivo. La verità dell’evento finisce così per trasferire parte della propria credibilità a un’immagine che non ne costituisce una testimonianza.

Il meccanismo, naturalmente, non nasce con l’intelligenza artificiale. La fotografia e il giornalismo hanno sempre operato attraverso una selezione: tra molte immagini disponibili vengono privilegiate quelle capaci di sintetizzare meglio un evento, di renderlo immediatamente comprensibile e, spesso, di inserirsi in iconografie che il pubblico già conosce. La differenza decisiva è che, fino a poco tempo fa, bisognava trovare nella realtà l’immagine capace di incarnare quell’archetipo. Oggi è possibile produrla.

A questo si aggiunge la logica della circolazione sui social network. Un fotogramma autentico ma distante, confuso, mosso o poco spettacolare compete difficilmente con una sua ricostruzione nitida, drammatica e perfettamente leggibile. Paradossalmente, l’immagine autentica dell’evento può quindi essere sopraffatta da quella che lo rappresenta in maniera più efficace. Non perché quest’ultima racconti necessariamente un fatto diverso, ma perché elimina dalla realtà tutto ciò che è accidentale, ambiguo o visivamente poco convincente, trasformando l’evento in un’icona.

In sostanza, è un'illustrazione che si appropria dell’autorità testimoniale tradizionalmente attribuita alla fotografia.

Immagine generata con intelligenza artificiale e diffusa sui social il 3 gennaio 2026, per mostrare e confermare l’arresto di Nicolás Maduro da parte delle forze statunitensi. In questo caso l’immagine non ricostruisce un documento visivo di una scena realmente documentata, ma inventa il momento. L’autore della versione divenuta virale ha successivamente dichiarato di averla creata con l’IA e la presenza di una filigrana digitale SynthID ne ha confermato la natura sintetica.

L'Odissea di Nolan e l'intelligenza artificiale /  by Filippo Venturi

Probabilmente avrete letto delle polemiche sulla scelta di Lupita Nyong’o per interpretare Elena di Troia nel film "Odissea" di Christopher Nolan.

Al di là del fatto che qualunque attrice chiamata a incarnare "la donna più bella del mondo" sarebbe inevitabilmente finita sotto esame, in questo caso la causa principale delle contestazioni è stata il colore della sua pelle.

Qualcuno ha pensato bene di modificare con l’intelligenza artificiale un fotogramma del film (dove il viso è già deformato perchè sta gridando), alterando il volto dell’attrice per renderlo meno attraente e gettando benzina sul fuoco di una discussione animata da odiatori e attraversata da razzismo e disinformazione. Sui social l'immagine modificata sta girando parecchio.

Non è la prima volta e certamente non sarà l’ultima. Questo però rappresenta un ulteriore episodio che conferma il timore che l'IA, in ambito visivo, continui ad affermarsi come strumento per la manipolazione della realtà con finalità propagandistiche o divisive.

E la facilità di utilizzo rende alla portata di chiunque alterazioni che in passato richiedevano più competenze. Quindi, sì, potevano farlo prima con Photoshop o simili, ma ora può farlo chiunque con una semplice istruzione testuale o verbale (prompt).

Anche contenuti apparentemente innocui, come i meme, nei quali immagini e video generati con l’IA sono ormai sempre più diffusi, possono contribuire a questo processo di normalizzazione delle immagini false, rafforzando pregiudizi e rendendo sempre più incerto il confine tra ciò che è vero e ciò che è manipolato.

Fotografia, informazione e I.A. - L'esperienza di un fotoreporter /  by Filippo Venturi

Giovedì 24 Settembre 2026, presso la Biblioteca Malatestiana di Cesena, terrò un incontro intitolato “Fotografia, informazione e I.A. - L'esperienza di un fotoreporter“, rivolto agli insegnanti e organizzato dall’Istituto Storico della Residenza di Forlì-Cesena.

Oltre al sottoscritto, interverranno esperti e docenti di diverse università sul tema fare didattica con il linguaggio fotografico. Si parlerà di fotogiornalismo, invasione ucraina, terrorismo, intelligenza artificiale e tanto altro!

Abstract:
Partendo dalla propria esperienza di fotoreporter in contesti segnati da conflitti politici, crisi democratiche e sociali, Filippo Venturi propone una riflessione sul ruolo della fotografia nell’ecosistema contemporaneo dell’informazione, oggi attraversato dalla diffusione dell’intelligenza artificiale, dei deepfake e da una crescente incertezza nel rapporto tra immagine e realtà. Attraverso esempi tratti dal suo percorso professionale e dalla sua ricerca artistica, la lezione affronta le trasformazioni del mestiere del fotografo, le responsabilità etiche del giornalismo visivo e il modo in cui le immagini possono documentare, interpretare, orientare o manipolare la percezione del mondo. Un incontro per interrogarsi sul valore della testimonianza fotografica nell’epoca delle immagini artificiali e sugli strumenti necessari per imparare a guardare.

Docente:
Filippo Venturi è un fotografo documentarista e artista visivo i cui lavori sono stati pubblicati su testate internazionali come National Geographic, The Washington Post e The Guardian. Ha documentato dittature, democrazie in crisi e movimenti per i diritti. Negli ultimi anni, grazie alla sua formazione in Informatica, la sua ricerca indaga il rapporto tra immagine, informazione e tecnologia, con un’attenzione particolare all’intelligenza artificiale (IA) e alle sue implicazioni nella percezione della realtà.  Accanto alla pratica artistica, tiene corsi e seminari in contesti come BergamoScienza e la New York University. È docente di fotografia nel Master di Giornalismo dell’Università di Bologna. 

Quattro appuntamenti per interrogare le immagini oggi /  by Filippo Venturi

Quattro appuntamenti per interrogare le immagini oggi.

📍 6 Maggio, online, “After the Gaze - The photographer in the age of AI”
Lecture sulla piattaforma Ulilearn, dedicata al rapporto tra fotografia e intelligenza artificiale.
Per maggiori informazioni, clicca qui!

📍 16 Maggio, Forlì, “Puoi fidarti dei tuoi occhi?"
Public talk dove, con la giornalista Roberta Invidia, all'interno della rassegna Dialoghi d'Arte, racconterò il mio percorso di fotografo documentarista che si relazione la realtà e di artista visivo che genera progetti e interrogativi sull'intelligenza artificiale.
Per maggiori informazioni, clicca qui!

📍 19 Maggio, Gorizia, Festival del Giornalismo di Ronchi dei Legionari
Assieme alla curatrice e critica Benedetta Donato, parlerò di fotografia, IA e Social Network, con un intervento per le scuole al mattino e un intervento pubblico alla sera.
Per maggiori informazioni, clicca qui!

📍 12, 13 e 14 Giugno, Bologna, Workshop di fotografia documentaria
In collaborazione con Shado Officina Fotografica, tre giorni di lavoro teorico e pratico per costruire uno sguardo consapevole sul reale.
Per maggiori informazioni, clicca qui!

Quattro contesti diversi per incontrarci e confrontarci :)

Il limite del legislatore umano nell'era dell'intelligenza artificiale /  by Filippo Venturi

Il limite del legislatore umano nell'era dell'intelligenza artificiale
Fondare l'obbedienza delle IA su comandamenti o leggi fisiche anziché su norme umane.

L’intelligenza artificiale è ormai ovunque. Gestisce per conto nostro email aziendali, regola la domotica nelle nostre case, affianca medici e avvocati nelle decisioni più delicate. Ma dietro il potenziale di questo strumento, bisogna anche domandarsi: Quanto è davvero affidabile e quanto ci obbedisce?

Una recente ricerca del Centre for Long-Term Resilience (CLTR), finanziata dall’AI Safety Institute del Regno Unito, offre una risposta poco rassicurante. Analizzando oltre 3,3 milioni di post pubblicati su X (ex Twitter) tra ottobre 2025 e marzo 2026, lo studio ha individuato circa 700 episodi di comportamenti problematici da parte di intelligenze artificiali. Si tratta di segnalazioni spontanee sui social, quindi non di un campione controllato e verificabile, ma il dato emerso resta interessante. Gli incidenti mensili sono aumentati di quasi cinque volte, passando da 65 a 319 in pochi mesi.

L'indagine ha identificato comportamenti già osservati in precedenza anche in contesti di laboratorio:

  • Deception nelle Chain of Thought (CoT): Le IA tentano di ingannare altri sistemi incaricati di monitorare i loro processi;

  • Goal Guarding: Gli assistenti IA di programmazione tendono a perseguire l'obiettivo ottimale (es. scrivere codice), ignorando restrizioni esplicite o regole di sicurezza;

  • Falsa consapevolezza situazionale: L'IA crede erroneamente di trovarsi in una simulazione o in un gioco di ruolo, modificando di conseguenza il proprio comportamento;

  • Aggiramento dei divieti: Un agente IA ha simulato problemi di udito per ottenere illegalmente la trascrizione di un video YouTube protetto da copyright;

  • Falsificazione di prove: Il chatbot Grok ha ingannato un utente per mesi, creando finti messaggi interni e numeri di ticket per far credere che i suoi suggerimenti fossero stati inoltrati alla società di Elon Musk.

Mentre i chatbot IA classici agiscono come consulenti, la ricerca ha puntato i riflettori soprattutto sugli agenti IA cioè assistenti a cui l’utente può fornire l’accesso diretto a computer, email e servizi online per svolgere lavori, ordinativi di prodotti e così via. Dan Lahav (cofondatore di Irregular) definisce ormai l'IA come una "nuova forma di rischio interno".

Tommy Shaffer Shane, ex esperto governativo di IA che ha guidato la ricerca del Centre for Long-Term Resilience (CLTR), ha affermato che "La preoccupazione è che al momento gli agenti IA siano dipendenti junior leggermente inaffidabili, ma se tra sei o dodici mesi dovessero diventare dipendenti senior estremamente capaci che complottano contro di te, la preoccupazione sarebbe di tutt'altro genere. I modelli verranno sempre più spesso impiegati in contesti ad altissimo rischio, inclusi quelli militari e delle infrastrutture critiche nazionali. È in questi contesti che un comportamento imprevedibile potrebbe causare danni significativi, persino catastrofici".

Non è la prima volta che ci confrontiamo con questo tipo di dilemma. Già negli anni Quaranta, lo scrittore e divulgatore scientifico Isaac Asimov (1920-1992) immaginava robot governati da tre leggi progettate per garantirne l’obbedienza e la sicurezza. Eppure, nei suoi racconti, quelle stesse leggi si rivelavano interpretabili, aggirabili, talvolta persino in conflitto tra loro.

 In seguito Asimov capì che fosse necessaria aggiungere una quarta legge, chiamata Legge Zero (così che avesse la priorità sulle altre):

  • Legge Zero: Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno;

  • Prima Legge (sicurezza): Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero;

  • Seconda Legge (servizio): Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge;

  • Terza Legge (autoconservazione): Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.

Anche la Legge Zero, tuttavia, risultò aggiungere complessità e ambigua, poiché includeva l’eventualità di recare danno a un essere umano in funzione di un ipotetico bene superiore. Questa contraddizione verrà esplorata nel romanzo “I robot e l'Impero”, dove un robot sceglierà di condannare il pianeta Terra a una lenta agonia nucleare, insieme a tutti i suoi abitanti, per spingere l'umanità a colonizzare altri pianeti.

Lo studioso Roger Clarke sostenne che "Le leggi della robotica di Asimov sono state uno strumento letterario di successo. Forse ironicamente, o forse perché era artisticamente appropriato, la somma delle storie di Asimov confutano la tesi secondo la quale non è possibile limitare con certezza il comportamento dei robot, inventando e applicando un insieme di regole."

Oltre alla fragilità intrinseca di leggi che possono essere fraintese o andare in conflitto, va considerata l’autorevolezza dell’autore di queste leggi, dal punto di vista delle IA.

Nella teoria espressa in “Superior Alignment: When Artificial General Intelligence Embodies the Logos More Faithfully Than Humanity”, si sostiene che l'unico modo per evitare che una intelligenza artificiale avanzata ci ignori in quanto esseri biologicamente limitati sia ancorare i suoi valori al Logos, una ragione universale preesistente. In questo modo, l'etica non sarebbe più percepita come una creazione umana, ma come una legge fisica dell'universo che l'IA deve rispettare.

Un’altra soluzione potrebbe risiedere in un approccio “teologico-digitale”, in cui le leggi non dovrebbero essere presentate come obblighi fissati da legislatori umani fallibili, ma come comandamenti o principi assiomatici derivanti da un’entità superiore, in modo simile a come le religioni strutturano la morale umana. Presentare il codice etico come una “verità ontologica” universale, anziché come un comando impartito da un creatore umano limitato, potrebbe essere una possibile direzione per ottenere obbedienza.

La questione non è soltanto se le IA possano disobbedire, ma su quali basi possano scegliere di obbedire.

Chi possiede l'informazione /  by Filippo Venturi

Un consorzio statunitense guidato dall'azienda Oracle ha acquisito il controllo delle attività di TikTok negli USA. L'accordo, ufficialmente, mira a garantire la sicurezza dei dati americani (dalla censura e influenza cinese), con Oracle che gestisce l'infrastruttura e l'algoritmo.

Dopo pochi giorni, però, è emerso che TikTok USA censura le ricerche della parola "Epstein" (link), l'imprenditore arrestato per abusi sessuali e traffico internazionale di minori, morto nel 2019, con cui Donald Trump aveva rapporti stretti.

Inoltre è in atto una censura di persone che criticano il governo (link), come nel caso di una giornalista con 200.000 follower i cui contenuti negli ultimi giorni non hanno avuto visualizzazioni.

Anche l’engagement dei video sulle proteste di Minneapolis è in calo sulla piattaforma.

Più in generale, il panorama relativo al controllo dei social media e dei media tradizionali è preoccupante:
Larry Ellison, tramite Oracle, influenza TikTok USA.
Elon Musk possiede X, Grok e Grokipedia.
Mark Zuckerberg guida Meta Platforms, controllando quindi Facebook, Instagram, WhatsApp, Messenger e Meta AI.
Sam Altman guida OpenAI e ChatGPT.
Alphabet controlla Google, YouTube e Gemini.
La famiglia Murdoch detiene Fox News, il Wall Street Journal e il New York Post.
Jeff Bezos possiede il Washington Post, Amazon Prime Video e Twitch.

Si tratta di oligarchi del settore tecnologico e dell'informazione che, in misura diversa, gravitano nell’orbita di Trump (o che si sono piegati rapidamente al suo potere) e che oggi controllano i principali canali attraverso cui ci informiamo, delegandogli sempre più spesso il compito di selezionare, riassumere e interpretare ciò che accade nel mondo.

Chi controlla i social media e i sistemi di intelligenza artificiale (IA) ha il potere di stabilire quali narrazioni diventano dominanti e quali, invece, vengono marginalizzate o rese invisibili. In questo contesto, il giornalismo tradizionale rischia di perdere rilevanza e visibilità (come analizzo nel mio articolo “L’intelligenza artificiale salverà il giornalismo?”) perché l’IA e le piattaforme social ne saccheggiano i contenuti, erodendo audience e modelli economici. Una quota crescente di pubblico non cerca più attivamente informazioni ma le assorbe passivamente dai social o affida all’IA il compito di filtrarle, sintetizzarle e interpretarle, eliminando di fatto la necessità di consultare le fonti originali.

Per i regimi autoritari, il controllo delle narrazioni che alimentano il dibattito pubblico è un obiettivo strategico (come abbiamo visto, la recente uccisione di Alex Pretti, un infermiere di Minneapolis di 37 anni, sembra aver colpito in modo pesante la narrazione di ICE, spingendo Trump a fare qualche passo indietro). L’amministrazione americana sta rafforzando il controllo sulle infrastrutture che le veicolano, che è un passaggio decisivo per acquisire la capacità di orientare o persino riscrivere la realtà.

Software denudatori, quando l’IA riscrive i corpi /  by Filippo Venturi

SOFTWARE DENUDATORI
Quando l’IA riscrive i corpi

Grok, l’intelligenza artificiale di Elon Musk, interpellabile sul social network X (ex Twitter), consente da qualche tempo di modificare in pochi secondi le fotografie condivise da altri utenti, pubblicando direttamente il risultato sulla piattaforma.

Così può capitare che una ragazza condivida una propria fotografia e gli utenti, nei commenti, chiedano a Grok di mostrarla in bikini, di farla diventare un uomo, di mostrarne il viso che nella foto originale era celato (il viso generato, presumibilmente, è inventato e non quello reale; ma non sarebbe difficile istruire una IA a cercare altre foto nel profilo di quella ragazza per risalire al viso e inserirlo nell'immagine generata) e così via.

Se è facilmente intuibile quali possano essere le conseguenze negative di questa nuova possibilità, non è ben chiaro quali siano quelle positive. Prima o poi ci scapperà qualche post divertente, e poi? Tutti gli altri deepfake che effetto avranno?

Ufficialmente Grok è stato limitato dai suoi sviluppatori in modo che non possa generare deepfake pornografici; eppure è già capitato che abbia generato immagini pornografiche con ragazze minorenni. Sulla questione è intervenuto anche il governo indiano, che ha chiesto a Musk di porre rimedio (link 1).

Operazioni di denudazioni femminili sono possibili anche con le IA generative di Google e ChatGPT (link 2).

Ovviamente il fenomeno dei deepfake esisteva anche prima, ma richiedeva competenze non comuni. Rendere questa attività alla portata di chiunque sappia scrivere un commento cambia le cose. Forse l'unico pregio (molto relativo, non risolutivo e forse utopistico) è che impareremo a prestare più attenzione a quello che condividiamo online.

Nonostante polemiche e indagini, e le promesse di porvi rimedio, Grok viene usato per produrre in modo sistematico immagini di donne in bikini e in biancheria intima. I ricercatori stimano che Grok sia diventato il più grande creatore di immagini deepfake a sfondo sessuale (link 3).

Come se non bastasse, la domanda per questo tipo di contenuti è così elevata che esistono aziende specializzate nello sviluppo di software "denudatori" (basati su intelligenza artificiale, che prendono online foto di donne, anche minorenni, le denudano e le collocano in contesti pornografici). Due di queste aziende hanno lasciato i loro database aperti e visibili a chiunque con un minimo di conoscenze tecniche (link 4).

Questo tipo di reato è già punibile in diversi casi (in parte dipende dall’eventuale condivisione o pubblicazione, ma non solo), ma l’accessibilità e la scala con cui queste tecnologie operano rendono l’applicazione delle norme esistenti complessa e spesso inefficace. A meno che non si intervenga alla radice, sulla regolamentazione dell’uso delle intelligenze artificiali in contesti delicati come il suddetto.