Meta

The Tamed Machine. A personal reflection prompted by a provocation from Fred Ritchin /  by Filippo Venturi

The Tamed Machine
A personal reflection prompted by a provocation from Fred Ritchin

An article published on 16 September 2026 by Fred Ritchin — a well-known American critic, former picture editor of The New York Times Magazine and Dean Emeritus of the International Center of Photography, and one of the most authoritative voices on the relationship between photography and new technologies — entitled “A possible photographic renaissance?” made me think again about some of the ideas I had expressed during presentations of some of my projects. In particular, those in which I combined photography with images generated by artificial intelligence, such as Broken Mirror (2023) and He Looks Like You (2023–2024).

At the time, I used to say that the phase in AI’s development that interested me most was the one in which the tool was still imperfect, unpredictable and, in some way, resistant to my intentions. A kind of mischievous assistant with whom I had to compromise, but whose bizarre suggestions I could also, at times, accept.

It was precisely this characteristic that formed one of the conceptual premises of Broken Mirror, in which I expressed my concerns about the invasive and controlling nature of dictatorship, but also of technology, and of He Looks Like You, in which I could mistake unpredictability for authenticity, allowing myself, for a moment, to believe in the illusion suggested by those images: that my father and my son had actually met.

I would conclude by saying that, once generative AI became more reliable and predictable, I would probably lose the curiosity that had driven me to experiment with it.

In his article, Ritchin argues that AI-generated imagery has, over time, become more predictable and banal, increasingly approximating the look of generic stock photography. In the early years, by contrast, what struck him was precisely the ability of these systems to produce unexpected, strange and sometimes even “revelatory” results. According to him, increasingly stringent guardrails and models trained on an enormous surfeit of conventional images are contributing to results that are less unpredictable and less original. Hence his final question: if AI is tending towards increasingly standardised imagery, might photographers respond by seeking greater complexity, ambiguity and originality?

This observation, which I share, makes me think, in some ways, that the moment I was talking about a few years ago may already have arrived.

Not because artificial intelligence has truly become reliable today — it continues to make mistakes, invent information and produce absurd results — but because, at least when it comes to image generation, its unpredictability seems less and less interesting to me. It is a more controlled, tamed unpredictability, enclosed within an aesthetic that tends to repeat itself.

What fascinated me was not the possibility of obtaining exactly the image I had in mind. On the contrary, it was the moment when the machine seemed to misunderstand my request and return something I had not anticipated. Something could happen in that gap between intention and result. Sometimes nothing interesting, of course (while working on He Looks Like You, I spent dozens of fruitless and frustrating nights searching for the generated image I was looking for). At other times, however, an image would emerge that was capable of suggesting a direction I myself had not imagined.

Perhaps that was where, at least for me, the most compelling part of the creative process lay: not in controlling the tool, but in negotiating with something that I could not completely control. This does not mean that I have stopped being interested in artificial intelligence. What is probably changing is simply the reason why it interests me.

Less and less as a machine with which to produce images, and more and more as a phenomenon to observe: to understand how it is changing our relationship with photography, with information, with memory and, above all, with the trust we place in images.

And it is perhaps here that I find Ritchin’s final provocation particularly interesting. If AI is destined to produce formally perfect but conventional images with ever greater ease, perhaps photography should not try to compete on the same terrain.

Photography does not need to become deliberately strange or imperfect in order to distinguish itself from AI; its strength may lie precisely in its encounter with a reality that often does not obey the photographer, one that may prevent them from achieving the result they had envisaged but may also offer unimaginable opportunities. However much the photographer may study, prepare and imagine the result, there is always the possibility that something will contradict their expectations, surprise them and introduce an element of unpredictability into the image. Perhaps it is also there that photography can rediscover part of its value: in its ability to leave room for what reality offers that is unexpected and could not have been foreseen.


La macchina addomesticata
Una riflessione personale a partire da una provocazione di Fred Ritchin

Un articolo pubblicato il 16 settembre 2026 da Fred Ritchin — noto critico statunitense, già picture editor del New York Times Magazine e preside emerito dell’International Center of Photography, tra le voci più autorevoli sul rapporto tra fotografia e nuove tecnologie — intitolato “A possible photographic renaissance?“ mi ha fatto ripensare ad alcuni ragionamenti che avevo espresso durante le presentazioni di alcuni miei lavori. In particolare quelli in cui combinavo fotografia e immagini generate con l’intelligenza artificiale, come Broken Mirror (2023) e He Looks Like You (2023-2024).

All’epoca dicevo che la fase dell’IA che mi interessava maggiormente era quella in cui lo strumento era ancora imperfetto, imprevedibile e, in qualche modo, resistente alle mie intenzioni. Una sorta di assistente dispettoso con cui scendere a compromessi, ma dal quale accettare anche, in alcuni casi, suggerimenti bizzarri.

Era proprio questa caratteristica a costituire uno dei presupposti concettuali di Broken Mirror, dove esprimevo i miei timori sulla natura invasiva e controllante della dittatura, ma anche della tecnologia, e di He Looks Like You, in cui potevo scambiare imprevedibilità e autenticità, permettendomi di credere, per un istante, all’illusione suggerita da quelle immagini: che mio padre e mio figlio si fossero davvero incontrati.

Concludevo dicendo che, quando l’IA generativa fosse diventata più affidabile e prevedibile, probabilmente avrei perso quella curiosità che mi aveva spinto a sperimentare con essa.

Nel suo articolo, Ritchin sostiene che le immagini generate dall’IA siano diventate nel tempo più prevedibili, banali e simili alla fotografia stock. Nei primi anni, invece, lo colpiva proprio la capacità dei sistemi di produrre risultati inattesi, strani e talvolta quasi “rivelatori”. Secondo lui, paletti sempre più rigidi e modelli addestrati su una massa enorme di immagini convenzionali stanno contribuendo a rendere i risultati meno imprevedibili e meno originali. Da qui la domanda finale: se l’IA tende verso immagini sempre più standardizzate, i fotografi potrebbero reagire cercando maggiore complessità, ambiguità e originalità?

Questa osservazione, che condivido, in qualche modo mi fa pensare che quel momento di cui parlavo qualche anno fa sia già arrivato.

Non perché oggi l’intelligenza artificiale sia diventata davvero affidabile — continua a commettere errori, a inventare informazioni e a produrre risultati assurdi — ma perché, almeno nella generazione delle immagini, la sua imprevedibilità mi sembra sempre meno interessante. È un’imprevedibilità più controllata, addomesticata, racchiusa in un’estetica che tende a ripetersi.

La cosa che mi affascinava non era la possibilità di ottenere esattamente l’immagine che avevo in mente. Al contrario, era il momento in cui la macchina sembrava fraintendere la mia richiesta e restituirmi qualcosa che non avevo previsto. In quello scarto tra intenzione e risultato poteva accadere qualcosa. A volte niente di interessante, naturalmente (durante il lavoro su He Looks Like You passai decine di notti infruttuose e frustranti alla ricerca dell’immagine generata che mi interessava). Altre volte emergeva invece un’immagine capace di suggerire una direzione che io stesso non avevo immaginato.

Era forse lì che si trovava, almeno per me, la parte più stimolante del processo creativo: non nel controllo dello strumento, ma nella negoziazione con qualcosa che non riuscivo a controllare completamente. Questo non significa che abbia smesso di interessarmi all’intelligenza artificiale. Probabilmente sta semplicemente cambiando il motivo per cui mi interessa.

Sempre meno come macchina con cui produrre immagini e sempre più come fenomeno da osservare: per capire come sta modificando il nostro rapporto con la fotografia, con l’informazione, con la memoria e soprattutto con la fiducia che riponiamo nelle immagini.

Ed è forse qui che trovo particolarmente interessante la provocazione finale di Ritchin. Se l’IA è destinata a produrre con sempre maggiore facilità immagini formalmente perfette ma convenzionali, forse la fotografia non deve cercare di competere sullo stesso terreno.

Non è necessario che la fotografia diventi volutamente strana o imperfetta per distinguersi dall’IA; la sua forza potrebbe stare proprio nel confronto con una realtà che spesso non obbedisce al fotografo, che può impedirgli di raggiungere il risultato previsto ma anche offrirgli opportunità inimmaginabili. Per quanto possa studiare, prepararsi e immaginare il risultato, resta sempre la possibilità che qualcosa contraddica le sue aspettative, lo sorprenda e introduca nell’immagine un elemento di imprevedibilità. Forse è anche lì che la fotografia può ritrovare una parte del proprio valore: nella capacità di lasciare spazio a ciò che la realtà offre di inatteso e non previsto.

Il Nepal e l’alluvione di video generati con IA /  by Filippo Venturi

Edifici travolti dall'esondazione a Nuwakot, in Nepal, il 27 agosto 2026 (REUTERS/Navesh Chitrakar)

L’enorme alluvione che il 26 agosto ha colpito la valle del fiume Bhote Koshi, nella regione himalayana del Nepal al confine con il Tibet, è una tragedia enorme, con un bilancio ancora in aggiornamento di morti, dispersi e feriti, oltre alla distruzione di case e interi villaggi.

In questi giorni mi è capitato di vedere diversi video che documentavano quanto accaduto. Ancora più spesso mi è capitato di imbattermi in video falsi generati con l’intelligenza artificiale. Non mi è chiaro lo scopo degli autori. A naso potrei ipotizzare la volontà di attirare interazioni sui social network, attraverso stratagemmi ignobili.

Il fenomeno della disinformazione, naturalmente, esisteva già prima dell’intelligenza artificiale. Fotografie decontestualizzate, vecchi video riciclati e immagini manipolate accompagnano da molti anni guerre, elezioni e catastrofi naturali. Quello che sta cambiando è però la scala del fenomeno. Oggi è possibile produrre in pochi minuti un numero potenzialmente enorme di fotografie e video completamente falsi ma sufficientemente credibili da confondersi, almeno durante una visione veloce sui social, con la documentazione autentica.

Nel caso in questione, si è raggiunto un tale livello di saturazione di contenuti falsi, manipolati o decontestualizzati che il governo nepalese ha deciso di incontrare i rappresentanti locali di Meta e TikTok per sollecitare interventi contro quattro categorie di contenuti: video/immagini generati con IA e vecchi contenuti ripresentati come attuali, oltre a immagini cruente e falsi QR code per raccogliere donazioni.

Le piattaforme dispongono già di referenti attraverso i quali il governo può segnalare i post, ma secondo l'autorità nepalese impiegano dalle 24 alle 48 ore a intervenire e quel lasso di tempo è sufficiente a renderli virali, a fare disinformazione e a commettere anche truffe e abusi.

Nell’articolo “In disaster aftermath, Nepal battles a flood of misinformation” (qui il link), pubblicato dal Kathmandu Post, viene raccontata proprio questa seconda catastrofe, quella informativa, che si è sovrapposta alla prima.

Ora, proviamo a immaginare se un fenomeno di questa intensità si verificasse contemporaneamente su più grandi eventi di attualità. Come il referendum in Islanda sulla ripresa dei negoziati di adesione all’Unione Europea, alluvioni e grandinate in Italia, gli attacchi con droni e missili in Ucraina, Palestina o Russia, ecc.

Per ognuno di questi eventi potrebbero cominciare a circolare, nel giro di poche ore, decine o centinaia di fotografie e video falsi, mescolati a quelli autentici.

Già oggi, con bias e bolle social, si è visto quanto sia facile dissociarsi dalla realtà, ma nello scenario immaginato sarebbe ancora più semplice perdere completamente la bussola e, con essa, la fiducia nell’informazione.


𝗔 𝘄𝗮𝘃𝗲 𝗼𝗳 𝗔𝗜-𝗴𝗲𝗻𝗲𝗿𝗮𝘁𝗲𝗱 𝘃𝗶𝗱𝗲𝗼𝘀

The devastating flood that struck the Bhote Koshi River valley on 26 August, in Nepal’s Himalayan region along the border with Tibet, is already an enormous tragedy, with the number of dead, missing and injured still being updated, as well as homes and entire villages destroyed.

Over the past few days, I have come across several videos documenting what happened. Even more often, however, I have encountered fake videos generated using artificial intelligence. It is not entirely clear to me what those creating them are trying to achieve. At a guess, I would say it is largely an attempt to attract engagement on social media through particularly disgraceful tactics.

Disinformation, of course, existed long before artificial intelligence. Photographs taken out of context, old videos recycled as current footage and manipulated images have accompanied wars, elections and natural disasters for many years. What is changing, however, is the scale of the phenomenon. Today, it is possible to produce, within minutes, a potentially enormous number of completely fabricated photographs and videos that are nevertheless credible enough to be mistaken, at least during a quick scroll through social media, for authentic documentation.

In this particular case, the saturation of false, manipulated or decontextualised content has reached such a level that the Nepalese government decided to meet local representatives of Meta and TikTok to urge them to take action against four categories of content: AI-generated videos and images, old material presented as current, graphic images, and fake QR codes used to solicit donations.

The platforms already have designated contacts through whom the government can report problematic posts, but according to the Nepalese authorities it can take between 24 and 48 hours for them to act. That is more than enough time for false content to go viral, spread misinformation and also be used for scams and other abuses.

The article “In disaster aftermath, Nepal battles a flood of misinformation” (link in the comments), published by the Kathmandu Post, describes precisely this second disaster: the information disaster that has unfolded on top of the first.

Now imagine if a phenomenon of this intensity were to occur simultaneously around several major news events: the referendum in Iceland on resuming negotiations to join the European Union, floods and hailstorms in Italy, drone and missile attacks in Ukraine, Palestine or Russia, and so on.

For each of these events, within the space of just a few hours, dozens or hundreds of false photographs and videos could begin circulating alongside authentic ones.

Even today, with confirmation biases and social media bubbles, we have already seen how easy it can be to become increasingly detached from reality. In the scenario described above, it would become even easier to lose our bearings completely — and, with them, our trust in information itself.

Fotografia, Informazione e I.A. - L'esperienza di un fotoreporter /  by Filippo Venturi

Giovedì 24 Settembre 2026, presso la Biblioteca Malatestiana di Cesena, terrò un incontro intitolato “Fotografia, Informazione e I.A. - L'esperienza di un fotoreporter“, rivolto agli insegnanti e organizzato dall’Istituto Storico della Residenza di Forlì-Cesena.

Oltre al sottoscritto, interverranno esperti e docenti di diverse università sul tema fare didattica con il linguaggio fotografico. Si parlerà di fotogiornalismo, invasione ucraina, terrorismo, intelligenza artificiale e tanto altro!


Abstract:
Partendo dalla propria esperienza di fotoreporter in contesti segnati da conflitti politici, crisi democratiche e sociali, Filippo Venturi propone una riflessione sul ruolo della fotografia nell’ecosistema contemporaneo dell’informazione, oggi attraversato dalla diffusione dell’intelligenza artificiale, dei deepfake e da una crescente incertezza nel rapporto tra immagine e realtà. Attraverso esempi tratti dal suo percorso professionale e dalla sua ricerca artistica, la lezione affronta le trasformazioni del mestiere del fotografo, le responsabilità etiche del giornalismo visivo e il modo in cui le immagini possono documentare, interpretare, orientare o manipolare la percezione del mondo. Un incontro per interrogarsi sul valore della testimonianza fotografica nell’epoca delle immagini artificiali e sugli strumenti necessari per imparare a guardare.

Docente:
Filippo Venturi è un fotografo documentarista e artista visivo i cui lavori sono stati pubblicati su testate internazionali come National Geographic, The Washington Post e The Guardian. Ha documentato dittature, democrazie in crisi e movimenti per i diritti. Negli ultimi anni, grazie alla sua formazione in Informatica, la sua ricerca indaga il rapporto tra immagine, informazione e tecnologia, con un’attenzione particolare all’intelligenza artificiale (IA) e alle sue implicazioni nella percezione della realtà.  Accanto alla pratica artistica, tiene corsi e seminari in contesti come BergamoScienza e la New York University. È docente di fotografia nel Master di Giornalismo dell’Università di Bologna. 


Aggiornamento del 30/09/2026:

Una foto della giornata di formazione rivolta ai docenti delle scuole e dedicata all’uso del linguaggio fotografico nella didattica, organizzata dall’Istituto Storico della Resistenza di Forlì-Cesena il 24 settembre presso la Biblioteca Malatestiana di Cesena.

Ho avuto l’onore di dare il mio contributo con la lezione “Fotografia, Informazione e I.A. – L’esperienza di un fotoreporter”, assieme ad altri relatori di grande prestigio, portando la mia esperienza diretta: dal fotogiornalismo alle immagini generate artificialmente, dai deepfake alle altre dinamiche che influenzano sempre di più la nostra percezione del mondo.

Mi sta particolarmente a cuore che questi temi entrino sempre di più anche nella scuola. I ragazzi crescono immersi in un ecosistema visivo e informativo estremamente complesso, nel quale immagini autentiche, manipolate e artificiali convivono spesso nello stesso flusso.

Aiutarli a capire come guardare un’immagine, interrogarsi sulla sua provenienza, sul contesto e sulle intenzioni con cui è stata prodotta significa fornire loro strumenti per orientarsi con maggiore consapevolezza nel mondo di oggi.

Intelligenza Artificiale e Policrisi /  by Filippo Venturi

An Amazon Web Services data center in Manassas, Virginia (Nathan Howard / Bloomberg / Getty)

L'economia globale è ormai dipendente dall'industria dell'IA. Alla fine del 2025, quasi tutta la crescita economica degli Stati Uniti è derivata dagli investimenti in questo settore. Questa crescita però poggia su fondamenta precarie, a causa di una crisi (polycrisis) che intreccia finanza, geopolitica ed energia.

Il settore dell'IA dipende da una catena di approvvigionamento concentrata in poche aree geografiche a rischio:

- La guerra in Iran ha destabilizzato la regione. La chiusura dello Stretto di Hormuz blocca (o comunque riduce sensibilmente) il transito di risorse vitali come il gas naturale, il petrolio e materiali chiave per costruire i chip, come elio, zolfo e bromo.

- I chip avanzati necessari per i data center dedicati all'IA sono prodotti in prevalenza in Corea del Sud e Taiwan, da aziende che dipendono dall'energia del Golfo Persico per alimentare le loro fabbriche.

L'aumento dei costi energetici rende i data center (già estremamente costosi) quasi impossibili da gestire in profitto, diffondendo il timore che l'IA sia una bolla pronta a esplodere, simile alla crisi del 2008. Le grandi aziende tech ("Hyperscalers" come Microsoft, Google, Meta, Amazon) hanno emesso 121 miliardi di dollari di debito nel 2025 per finanziare l'infrastruttura IA. Società di private equity (Blackstone, BlackRock, ecc) operano come "banche ombra", finanziando data center con debiti enormi, che le aziende tech potrebbero non essere più in grado di pagare.

Un altro elemento critico di questa crisi è il cosiddetto "paradosso della svalutazione". A differenza delle industrie tradizionali, dove gli asset fisici mantengono un valore residuo, i chip per l'IA subiscono un’obsolescenza rapidissima, diventando superati nel giro di pochi mesi e perdendo gran parte del loro valore come collaterale per le banche. Parallelamente, il modello di business dell'IA è intrinsecamente deflattivo, cioè l'efficienza tecnologica spinge il costo dei "token" (le unità di calcolo vendute agli utenti per svolgere le attività generative) verso lo zero, creando una spirale in cui i ricavi potenziali diminuiscono mentre i costi fissi e il debito rimangono invariati. Questo rende l'intero ecosistema finanziario molto fragile. Se l'asset sottostante (il data center) perde valore e il prodotto venduto si svaluta, il rischio di insolvenza diventa sistemico.

I data center sono diventati obiettivi militari e strategici nell'area del Golfo Persico (l'Iran ha già colpito data center di Amazon negli Emirati Arabi e in Bahrain), eventualità che non era stata prevista. Si tratta di strutture enormi, difficili da proteggere e impossibili da nascondere. Anche quelli presenti sul territorio americano potrebbero venire sabotati, subire cyberattacchi o essere colpiti da attacchi.

Considerando la complessità e fragilità di questo sistema e le complicazioni che si stanno creando a livello globale, non è escluso che sia destinato a fallire. "Ci sono troppi modi in cui può fallire perché non fallisca." — Paul Kedrosky, investitore.


Per maggiori informazioni, consiglio di leggere l'articolo integrale su The Atlantic:
Welcome to a Multidimensional Economic Disaster
The AI boom wasn’t built for the polycrisis.
By Matteo Wong and Charlie Warzel


Se desideri approfondire il rapporto tra fotografia, informazione e intelligenza artificiale — tra ricerca visiva, implicazioni etiche e trasformazioni del linguaggio contemporaneo — puoi consultare la seguente pagina, dove raccolgo riflessioni, progetti, articoli e informazioni aggiornate su seminari, workshop e incontri pubblici in cui esploro questo tema:

👉 www.filippoventuri.photography/intelligenza-artificiale

Chi possiede l'informazione /  by Filippo Venturi

Un consorzio statunitense guidato dall'azienda Oracle ha acquisito il controllo delle attività di TikTok negli USA. L'accordo, ufficialmente, mira a garantire la sicurezza dei dati americani (dalla censura e influenza cinese), con Oracle che gestisce l'infrastruttura e l'algoritmo.

Dopo pochi giorni, però, è emerso che TikTok USA censura le ricerche della parola "Epstein" (link), l'imprenditore arrestato per abusi sessuali e traffico internazionale di minori, morto nel 2019, con cui Donald Trump aveva rapporti stretti.

Inoltre è in atto una censura di persone che criticano il governo (link), come nel caso di una giornalista con 200.000 follower i cui contenuti negli ultimi giorni non hanno avuto visualizzazioni.

Anche l’engagement dei video sulle proteste di Minneapolis è in calo sulla piattaforma.

Più in generale, il panorama relativo al controllo dei social media e dei media tradizionali è preoccupante:
Larry Ellison, tramite Oracle, influenza TikTok USA.
Elon Musk possiede X, Grok e Grokipedia.
Mark Zuckerberg guida Meta Platforms, controllando quindi Facebook, Instagram, WhatsApp, Messenger e Meta AI.
Sam Altman guida OpenAI e ChatGPT.
Alphabet controlla Google, YouTube e Gemini.
La famiglia Murdoch detiene Fox News, il Wall Street Journal e il New York Post.
Jeff Bezos possiede il Washington Post, Amazon Prime Video e Twitch.

Si tratta di oligarchi del settore tecnologico e dell'informazione che, in misura diversa, gravitano nell’orbita di Trump (o che si sono piegati rapidamente al suo potere) e che oggi controllano i principali canali attraverso cui ci informiamo, delegandogli sempre più spesso il compito di selezionare, riassumere e interpretare ciò che accade nel mondo.

Chi controlla i social media e i sistemi di intelligenza artificiale (IA) ha il potere di stabilire quali narrazioni diventano dominanti e quali, invece, vengono marginalizzate o rese invisibili. In questo contesto, il giornalismo tradizionale rischia di perdere rilevanza e visibilità (come analizzo nel mio articolo “L’intelligenza artificiale salverà il giornalismo?”) perché l’IA e le piattaforme social ne saccheggiano i contenuti, erodendo audience e modelli economici. Una quota crescente di pubblico non cerca più attivamente informazioni ma le assorbe passivamente dai social o affida all’IA il compito di filtrarle, sintetizzarle e interpretarle, eliminando di fatto la necessità di consultare le fonti originali.

Per i regimi autoritari, il controllo delle narrazioni che alimentano il dibattito pubblico è un obiettivo strategico (come abbiamo visto, la recente uccisione di Alex Pretti, un infermiere di Minneapolis di 37 anni, sembra aver colpito in modo pesante la narrazione di ICE, spingendo Trump a fare qualche passo indietro). L’amministrazione americana sta rafforzando il controllo sulle infrastrutture che le veicolano, che è un passaggio decisivo per acquisire la capacità di orientare o persino riscrivere la realtà.

Scorrete lacrime, impose il governo /  by Filippo Venturi

La Casa Bianca ha diffuso una fotografia modificata con l’intelligenza artificiale di una donna arrestata dopo una protesta contro l’ICE (Immigration and Customs Enforcement).

Un’analisi del Guardian (link) ha rilevato che la fotografia pubblicata mostra Nekima Levy Armstrong in lacrime, in modo drammatico, mentre nello scatto originale appariva calma e composta. Inoltre, il colore della pelle della donna risulta scurito.

La segretaria per la sicurezza interna, Kristi Noem, ha pubblicato una prima immagine dell’arresto che ritraeva un agente delle forze dell’ordine, con il volto oscurato, che accompagna Armstrong. La donna appare composta. Circa trenta minuti dopo, la Casa Bianca ha pubblicato una seconda immagine dello stesso arresto, in cui Armstrong piange.

Interpellata sull’alterazione digitale dello scatto, la Casa Bianca ha risposto inoltrando un post pubblicato su X da Kaelan Dorr, vicedirettore delle comunicazioni: «Ancora una volta, a coloro che sentono il bisogno di difendere in modo istintivo gli autori di crimini efferati nel nostro paese, condivido questo messaggio: l’applicazione della legge continuerà. I meme continueranno», ha scritto.

Questo episodio va letto come l’ennesimo segnale del rapporto sempre più instabile tra potere, immagine e verità. La manipolazione visiva mira a orientare emotivamente lo sguardo del pubblico, trasformando un documento in uno strumento narrativo e punitivo (pare ormai che il bullismo permei ogni aspetto della vita politica e comunicativa statunitense). Il ricorso esplicito ai “meme” rivendicato dalla Casa Bianca rivela una strategia comunicativa che legittima la fusione fra informazione, propaganda e intrattenimento.

Software denudatori, quando l’IA riscrive i corpi /  by Filippo Venturi

SOFTWARE DENUDATORI
Quando l’IA riscrive i corpi

Grok, l’intelligenza artificiale di Elon Musk, interpellabile sul social network X (ex Twitter), consente da qualche tempo di modificare in pochi secondi le fotografie condivise da altri utenti, pubblicando direttamente il risultato sulla piattaforma.

Così può capitare che una ragazza condivida una propria fotografia e gli utenti, nei commenti, chiedano a Grok di mostrarla in bikini, di farla diventare un uomo, di mostrarne il viso che nella foto originale era celato (il viso generato, presumibilmente, è inventato e non quello reale; ma non sarebbe difficile istruire una IA a cercare altre foto nel profilo di quella ragazza per risalire al viso e inserirlo nell'immagine generata) e così via.

Se è facilmente intuibile quali possano essere le conseguenze negative di questa nuova possibilità, non è ben chiaro quali siano quelle positive. Prima o poi ci scapperà qualche post divertente, e poi? Tutti gli altri deepfake che effetto avranno?

Ufficialmente Grok è stato limitato dai suoi sviluppatori in modo che non possa generare deepfake pornografici; eppure è già capitato che abbia generato immagini pornografiche con ragazze minorenni. Sulla questione è intervenuto anche il governo indiano, che ha chiesto a Musk di porre rimedio (link 1).

Operazioni di denudazioni femminili sono possibili anche con le IA generative di Google e ChatGPT (link 2).

Ovviamente il fenomeno dei deepfake esisteva anche prima, ma richiedeva competenze non comuni. Rendere questa attività alla portata di chiunque sappia scrivere un commento cambia le cose. Forse l'unico pregio (molto relativo, non risolutivo e forse utopistico) è che impareremo a prestare più attenzione a quello che condividiamo online.

Nonostante polemiche e indagini, e le promesse di porvi rimedio, Grok viene usato per produrre in modo sistematico immagini di donne in bikini e in biancheria intima. I ricercatori stimano che Grok sia diventato il più grande creatore di immagini deepfake a sfondo sessuale (link 3).

Come se non bastasse, la domanda per questo tipo di contenuti è così elevata che esistono aziende specializzate nello sviluppo di software "denudatori" (basati su intelligenza artificiale, che prendono online foto di donne, anche minorenni, le denudano e le collocano in contesti pornografici). Due di queste aziende hanno lasciato i loro database aperti e visibili a chiunque con un minimo di conoscenze tecniche (link 4).

Questo tipo di reato è già punibile in diversi casi (in parte dipende dall’eventuale condivisione o pubblicazione, ma non solo), ma l’accessibilità e la scala con cui queste tecnologie operano rendono l’applicazione delle norme esistenti complessa e spesso inefficace. A meno che non si intervenga alla radice, sulla regolamentazione dell’uso delle intelligenze artificiali in contesti delicati come il suddetto.