[Immagine generata con IA, dal progetto “Broken Mirror” @ Filippo Venturi]
La fine della contraddizione?
La difficoltà di riconoscere il vero e il rifugio nella compatibilità
In un lungo articolo del New York Times, intitolato “The World’s Leading Deepfake Expert No Longer Trusts His Own Eyes”, Hany Farid, uno dei maggiori esperti mondiali di digital forensics e deepfake, racconta di essere arrivato a un punto in cui non si fida più dei propri occhi. Dopo oltre vent’anni trascorsi a distinguere immagini autentiche da manipolazioni, ora si trova ad analizzare quotidianamente fotografie, video e registrazioni audio generate dall’intelligenza artificiale sempre più difficili da riconoscere, tanto che anche i contenuti reali richiedono verifiche complesse prima di poter essere considerati attendibili. Sempre più spesso non è possibile ottenere una risposta definitiva su ciò che guardiamo.
Questa incertezza è entrata perfino nella sua vita privata. Dopo che qualcuno ha clonato la sua voce con l’IA e falsificato il suo numero di telefono per cercare di ottenere informazioni riservate da un suo collega, Farid e sua moglie hanno stabilito una parola d’ordine da utilizzare nelle telefonate più delicate per verificare reciprocamente la propria identità. Questo scenario lo ha infine spinto ad allontanarsi dalla Silicon Valley e a trasferirsi in una fattoria nei boschi del Vermont, alla ricerca di una dimensione più concreta e meno mediata dagli schermi.
Una sensazione analoga mi accompagna sempre più spesso nelle mie verifiche, soprattutto quando si parla di fotografie (o presunte tali) legate al mondo dell’informazione. È noto che la disinformazione abbia spesso il vantaggio della velocità, capillarità e semplicità, mentre verificare richiede tempo, fonti e competenze e l’eventuale smentita raggiungerà poche persone. Resta comunque una missione necessaria, per quanto insufficiente senza una regolamentazione dall'alto.
Da bambini il mondo ci entra dagli occhi senza chiedere permesso. Quello che vediamo o pensiamo di vedere, esiste. Il mostro sotto il letto, il mago in televisione, l’eroe che vola sullo schermo. Crescendo impariamo lentamente che le immagini possono ingannare, che esistono trucchi, montaggi, finzioni. È una forma di educazione dello sguardo. Perdiamo l’innocenza, ma in cambio acquistiamo strumenti.
In un futuro prossimo, probabilmente, torneremo in una condizione infantile, ma rovesciata: non crederemo a ciò che vediamo. Dopo aver imparato per tutta la vita a distinguere la realtà dalla finzione, ci troviamo davanti a uno scenario di dubbio perpetuo.
Per quasi due secoli la fotografia ha costruito gran parte della propria forza sulla relazione fisica con ciò che si trovava davanti all’obiettivo. Poteva mentire, naturalmente. Poteva essere manipolata, costruita, selezionata, decontestualizzata. Ma qualcosa, davanti alla macchina fotografica, era stato necessario. La fotografia poteva deformare il reale, ma non prescindere completamente da esso.
E per quanto ci sia chi abbia cercato di demolire completamente la credibilità della fotografia, difficilmente rinunceremmo alle nostre foto di famiglia solo perché mostrano un frammento, un istante parziale o una versione incompleta del nostro rapporto con un genitore, un parente o un amico. Sappiamo che non raccontano tutto, ma continuiamo a riconoscere in esse una traccia di qualcosa che è realmente accaduto. La loro parzialità non annulla il loro valore di testimonianza.
La consapevolezza che il nostro impegno non sia più sufficiente (se mai lo è stato) per scegliere a cosa credere, anche dopo verifiche e approfondimenti, introduce una forma di impotenza nuova. La nostra necessità di adattamento, ci spingerà a trovare un compromesso e questo compromesso, probabilmente, consisterà nel non credere più a nulla. O forse, più plausibilmente, a credere a ciò di cui siamo già convinti. A quel punto il criterio non sarà più la verità, ma la compatibilità.
Accetteremo più facilmente ciò che conferma il nostro sistema di convinzioni e respingeremo ciò che lo mette in crisi. In questo senso, l’intelligenza artificiale non introdurrebbe un meccanismo nuovo, ma amplificherebbe qualcosa che i social network hanno già reso evidente ovvero la tendenza a vivere all’interno di bolle informative, a selezionare le conferme e a evitare ciò che produce dissonanza.
Il rischio più subdolo è quello di perdere progressivamente la disponibilità a lasciarci contraddire dalle immagini.
The End of Contradiction?
The difficulty of recognising truth, and the refuge of compatibility
In a long New York Times article entitled “The World’s Leading Deepfake Expert No Longer Trusts His Own Eyes”, Hany Farid, one of the world’s leading experts in digital forensics and deepfakes, describes having reached the point where he no longer trusts his own eyes. After more than twenty years spent distinguishing authentic images from manipulated ones, he now finds himself analysing photographs, videos and audio recordings generated by artificial intelligence on a daily basis, increasingly difficult to identify as such. Even genuine content now requires complex verification before it can be regarded as reliable. More and more often, it is impossible to arrive at a definitive answer about what we are looking at.
This uncertainty has even entered his private life. After someone cloned his voice using AI and spoofed his telephone number in an attempt to obtain confidential information from one of his colleagues, Farid and his wife agreed on a safe word to use during sensitive phone calls in order to verify each other’s identity. This situation ultimately led him to move away from Silicon Valley and settle on a farm in the woods of Vermont, in search of a more tangible existence, less mediated by screens.
I increasingly experience a similar feeling in my own verification work, particularly when dealing with photographs — or supposed photographs — connected to the news. Disinformation often has the advantage of speed, reach and simplicity, whereas verification requires time, sources and expertise, and any subsequent correction will reach only a fraction of those who encountered the original claim. It nevertheless remains a necessary task, however insufficient it may be without regulation at a systemic level.
As children, the world enters through our eyes without asking permission. What we see, or believe we see, exists. The monster under the bed, the magician on television, the hero flying across the screen. As we grow older, we gradually learn that images can deceive us, that tricks, editing and fiction exist. It is a form of visual education. We lose our innocence, but in exchange we acquire tools.
In the near future, perhaps, we will return to a kind of childhood condition, but in reverse: we will no longer believe what we see. After spending our entire lives learning to distinguish reality from fiction, we now find ourselves facing a state of perpetual doubt.
For almost two centuries, photography has derived much of its power from its physical relationship with whatever stood in front of the lens. It could lie, of course. It could be manipulated, constructed, selected or taken out of context. But something had to have been there, in front of the camera. Photography could distort reality, but it could not dispense with it altogether.
And however much some have sought to dismantle photography’s credibility entirely, few of us would be willing to give up our family photographs simply because they show only a fragment, a partial moment or an incomplete version of our relationship with a parent, relative or friend. We know they do not tell the whole story, but we continue to recognise in them a trace of something that really happened. Their partial nature does not erase their value as testimony.
The realisation that our own efforts are no longer sufficient — if they ever were — to determine what to believe, even after verification and careful investigation, introduces a new form of powerlessness. Our need to adapt will push us towards some kind of compromise, and that compromise will probably consist in no longer believing anything at all. Or perhaps, more plausibly, in believing what we are already convinced of. At that point, the criterion will no longer be truth, but compatibility.
We will more readily accept what confirms our existing system of beliefs and reject what challenges it. In this sense, artificial intelligence would not introduce an entirely new mechanism, but rather amplify something that social networks have already made apparent: the tendency to live within information bubbles, to select confirmation and to avoid whatever produces dissonance.
The more insidious risk is that we gradually lose our willingness to allow images to contradict us.