Generazione

Faceless Generation - Un progetto sul riconoscimento facciale /  by Filippo Venturi

[english below]

Faceless Generation è una ricerca visiva e documentaria che interroga il rapporto tra identità, visibilità e sorveglianza tecnologica.

Il progetto nasce dalla mia esperienza di fotografo documentarista in Georgia, durante le proteste del 2024, nel corso delle quali ho osservato come la sorveglianza biometrica, attraverso il riconoscimento facciale, potesse essere impiegata su larga scala per identificare, rintracciare e colpire i manifestanti.

Questa tecnologia è ormai presente in aeroporti, frontiere, infrastrutture urbane, dispositivi personali e apparati di sicurezza. Promette sicurezza, efficienza e semplificazione dell’accesso, ma introduce una forma di controllo spesso invisibile, capace di trasformare la presenza nello spazio pubblico in una traccia permanente. Quando viene impiegato per sorvegliare le proteste, questo processo coinvolge direttamente la libertà di espressione, il diritto di manifestare e la possibilità di esprimere il dissenso senza essere automaticamente identificati.

Cosa accade quando il volto smette di essere soltanto il luogo dell’identità e diventa un dato da acquisire e classificare, a disposizione delle stesse autorità che il dissenso mette in discussione? A partire dall’esperienza georgiana, ho ideato e sviluppato delle strategie di occultamento e distorsione attraverso le quali l’immagine del volto tenta di sottrarsi, confondersi o generare un errore nello sguardo algoritmico.

Il progetto si articola in tre tipologie di immagini:

  1. Reportage. Una selezione di mie fotografie delle proteste georgiane, da cui nasce l’idea di questo progetto, e di altre manifestazioni che ho documentato in altri paesi.

  2. Strategie di occultamento e distorsione. La forma più diretta consiste nell’occultamento del volto attraverso delle maschere. Quelle che ho ideato prendono il nome di Anòmata, sono modellate con l’IA con l’obiettivo di ingannare l’IA applicata al riconoscimento facciale e le ho realizzate attraverso la stampa 3D. Un secondo approccio consiste nell’utilizzo di capi di moda anti-biometrica da me progettati, caratterizzati da pattern ripetuti di occhi e bocche, con lo scopo di interferire con i sistemi di rilevamento e identificazione. Nei contesti in cui coprire il volto può essere vietato per legge, ho pensato al trucco facciale (di ispirazione teatrale) concepito per alterare visivamente i tratti del volto.

  3. Contro-archivio. Una serie di immagini nelle quali intervengo con l’IA sulle mie fotografie per simulare processi di identificazione automatizzata e rendere visibili logiche, errori e limiti dei sistemi di analisi biometrica.

Mi interessava quindi costruire un progetto che si muovesse continuamente tra documento, intervento e simulazione. I tre filoni non sono compartimenti separati, ma diversi livelli dello stesso discorso e altrettante posizioni dello sguardo: quello del fotografo che osserva e documenta la realtà, quello del soggetto che reagisce tentando di sottrarsi all’identificazione e quello della macchina che analizza, classifica e riconosce.

Questo lavoro rende visibile, anche in modo provocatorio, una contraddizione centrale del presente: in un mondo nel quale essere visibili significa sempre più spesso essere identificabili, l’invisibilità può diventare una forma di resistenza, ma anche una nuova condizione di esclusione dallo spazio pubblico.

Faceless Generation is a visual and documentary investigation into the relationship between identity, visibility and technological surveillance.

The project grew out of my experience as a documentary photographer in Georgia during the 2024 protests, where I observed how biometric surveillance, through facial recognition, could be deployed on a large scale to identify, track and target protesters.

This technology is now embedded in airports, borders, urban infrastructures, personal devices and security systems. It promises security, efficiency and easier access, yet at the same time introduces a form of control that is often invisible, capable of turning our presence in public space into a permanent trace. When used to monitor protests, this process directly affects freedom of expression, the right to demonstrate, and the possibility of expressing dissent without being automatically identified.

What happens when the face ceases to be simply the site of identity and becomes data to be captured and classified, made available to the very authorities that dissent seeks to challenge? Drawing on my experience in Georgia, I conceived and developed a series of concealment and distortion strategies through which the image of the face attempts to evade, confuse or produce errors in the algorithmic gaze.

The project unfolds through three types of images:

  1. Reportage. A selection of my photographs from the Georgian protests, from which the idea for this project originated, together with images from other demonstrations I have documented in different countries.

  2. Concealment and distortion strategies. The most direct approach consists in concealing the face through masks. The masks I designed, called Anòmata, were modelled using AI with the aim of deceiving AI-based facial recognition systems, and were then produced through 3D printing. A second approach involves the use of anti-biometric fashion garments of my own design, characterised by repeated patterns of eyes and mouths intended to interfere with detection and identification systems. In contexts where covering the face may be prohibited by law, I explored facial make-up, inspired by theatrical practice and conceived to visually alter facial features.

  3. Counter-archive. A series of images in which I use AI to intervene on my own photographs, simulating processes of automated identification in order to make visible the logic, errors and limitations of biometric analysis systems.

I was therefore interested in constructing a project that moves continuously between document, intervention and simulation. The three strands are not separate compartments, but different layers of the same discourse and different positions of the gaze: that of the photographer, who observes and documents reality; that of the subject, who reacts by attempting to evade identification; and that of the machine, which analyses, classifies and recognises.

This work makes visible, at times provocatively, a central contradiction of the present: in a world in which being visible increasingly means being identifiable, invisibility can become a form of resistance, but also a new condition of exclusion from public space.

Software denudatori, quando l’IA riscrive i corpi /  by Filippo Venturi

SOFTWARE DENUDATORI
Quando l’IA riscrive i corpi

Grok, l’intelligenza artificiale di Elon Musk, interpellabile sul social network X (ex Twitter), consente da qualche tempo di modificare in pochi secondi le fotografie condivise da altri utenti, pubblicando direttamente il risultato sulla piattaforma.

Così può capitare che una ragazza condivida una propria fotografia e gli utenti, nei commenti, chiedano a Grok di mostrarla in bikini, di farla diventare un uomo, di mostrarne il viso che nella foto originale era celato (il viso generato, presumibilmente, è inventato e non quello reale; ma non sarebbe difficile istruire una IA a cercare altre foto nel profilo di quella ragazza per risalire al viso e inserirlo nell'immagine generata) e così via.

Se è facilmente intuibile quali possano essere le conseguenze negative di questa nuova possibilità, non è ben chiaro quali siano quelle positive. Prima o poi ci scapperà qualche post divertente, e poi? Tutti gli altri deepfake che effetto avranno?

Ufficialmente Grok è stato limitato dai suoi sviluppatori in modo che non possa generare deepfake pornografici; eppure è già capitato che abbia generato immagini pornografiche con ragazze minorenni. Sulla questione è intervenuto anche il governo indiano, che ha chiesto a Musk di porre rimedio (link 1).

Operazioni di denudazioni femminili sono possibili anche con le IA generative di Google e ChatGPT (link 2).

Ovviamente il fenomeno dei deepfake esisteva anche prima, ma richiedeva competenze non comuni. Rendere questa attività alla portata di chiunque sappia scrivere un commento cambia le cose. Forse l'unico pregio (molto relativo, non risolutivo e forse utopistico) è che impareremo a prestare più attenzione a quello che condividiamo online.

Nonostante polemiche e indagini, e le promesse di porvi rimedio, Grok viene usato per produrre in modo sistematico immagini di donne in bikini e in biancheria intima. I ricercatori stimano che Grok sia diventato il più grande creatore di immagini deepfake a sfondo sessuale (link 3).

Come se non bastasse, la domanda per questo tipo di contenuti è così elevata che esistono aziende specializzate nello sviluppo di software "denudatori" (basati su intelligenza artificiale, che prendono online foto di donne, anche minorenni, le denudano e le collocano in contesti pornografici). Due di queste aziende hanno lasciato i loro database aperti e visibili a chiunque con un minimo di conoscenze tecniche (link 4).

Questo tipo di reato è già punibile in diversi casi (in parte dipende dall’eventuale condivisione o pubblicazione, ma non solo), ma l’accessibilità e la scala con cui queste tecnologie operano rendono l’applicazione delle norme esistenti complessa e spesso inefficace. A meno che non si intervenga alla radice, sulla regolamentazione dell’uso delle intelligenze artificiali in contesti delicati come il suddetto.

Nota dell'Autore /  by Filippo Venturi

Una immagine dal mio lavoro “Handbook of escape”, generata con l’IA /// An image from my work “Handbook of Escape”, generated with AI.

Nota dell’autore

Ho scelto di inserire questa Nota per chiarire come utilizzo l’intelligenza artificiale (IA) nei miei testi. Così come auspico trasparenza per le immagini generate con IA (soprattutto quando imitano la fotografia, in particolare in questa fase storica), la ritengo importante anche nella scrittura. Mi piacerebbe che indicazioni di questo tipo comparissero più spesso anche nei giornali e nelle altre fonti che consulto, magari accompagnate da dettagli specifici nel caso di un uso più esteso o diversificato di questa tecnologia.

Nei miei articoli utilizzo strumenti basati sull’intelligenza artificiale come assistenti editoriali, ma le idee, le interpretazioni e le connessioni concettuali sono interamente umane e frutto della mia ricerca personale.

Impiego l’IA nella fase di revisione della bozza per individuare eventuali errori grammaticali, refusi o imprecisioni concettuali, verificare la correttezza di date e riferimenti, valutare la chiarezza del testo per un pubblico che potrebbe non conoscere i temi trattati (sigle, acronimi, termini tecnici) e ridurre le ripetizioni.

Valuto e verifico sempre ogni suggerimento dell’IA, consapevole che in alcuni casi può generare errori o “allucinazioni”, cioè dati inventati o distorti. Nessuna modifica proposta viene applicata automaticamente.

Non la utilizzo per generare contenuti originali, elaborare tesi o formulare giudizi. Ogni argomento, esempio e analisi proviene dal mio lavoro, dalla mia esperienza diretta o da fonti verificabili.

Credo che il ruolo dell’autore oggi non sia quello di escludere la tecnologia, ma di governarla in modo consapevole e trasparente.

È importante aggiornare o modificare la Nota in funzione dell’uso effettivo dell’IA, così che resti uno strumento di trasparenza autentica e non una formula di rito.

Author’s Note

I chose to include this note to clarify the way in which I use artificial intelligence (AI) in my writing. Just as I advocate for transparency in AI-generated images (especially when they imitate photography), I believe it is equally important in written work. I would like to see such statements appear more frequently in newspapers and other sources I consult — ideally accompanied by specific details when this technology is used more extensively or in diverse ways.

In my articles, I use AI tools as editorial assistants, but the ideas, interpretations, and conceptual connections are entirely human and the result of my own research.

I employ AI during the draft revision phase to identify possible grammatical errors, typos, or conceptual inaccuracies; to check the accuracy of dates and references; to assess the clarity of the text for readers who may not be familiar with the topics discussed (such as acronyms, abbreviations, or technical terms); and to reduce repetitions.

I carefully review and verify all AI suggestions, aware that in some cases it may produce errors or so-called “hallucinations,” — invented or distorted information. No proposed change is ever applied automatically.

I do not use AI to generate original content, develop theses, or formulate judgments. Every topic, example, and analysis originates from my own work, direct experience, or verifiable sources.

I believe the author’s role today is not to exclude technology, but to govern it consciously and transparently.

It is important to update or modify this note according to the actual use of AI, so that it remains a genuine instrument of transparency rather than a mere formality.