Identity

Faceless Generation - Un progetto sul riconoscimento facciale /  by Filippo Venturi

[english below]

Faceless Generation è una ricerca visiva e documentaria che interroga il rapporto tra identità, visibilità e sorveglianza tecnologica.

Il progetto nasce dalla mia esperienza di fotografo documentarista in Georgia, durante le proteste del 2024, nel corso delle quali ho osservato come la sorveglianza biometrica, attraverso il riconoscimento facciale, potesse essere impiegata su larga scala per identificare, rintracciare e colpire i manifestanti.

Questa tecnologia è ormai presente in aeroporti, frontiere, infrastrutture urbane, dispositivi personali e apparati di sicurezza. Promette sicurezza, efficienza e semplificazione dell’accesso, ma introduce una forma di controllo spesso invisibile, capace di trasformare la presenza nello spazio pubblico in una traccia permanente. Quando viene impiegato per sorvegliare le proteste, questo processo coinvolge direttamente la libertà di espressione, il diritto di manifestare e la possibilità di esprimere il dissenso senza essere automaticamente identificati.

Cosa accade quando il volto smette di essere soltanto il luogo dell’identità e diventa un dato da acquisire e classificare, a disposizione delle stesse autorità che il dissenso mette in discussione? A partire dall’esperienza georgiana, ho ideato e sviluppato delle strategie di occultamento e distorsione attraverso le quali l’immagine del volto tenta di sottrarsi, confondersi o generare un errore nello sguardo algoritmico.

Il progetto si articola in tre tipologie di immagini:

  1. Reportage. Una selezione di mie fotografie delle proteste georgiane, da cui nasce l’idea di questo progetto, e di altre manifestazioni che ho documentato in altri paesi.

  2. Strategie di occultamento e distorsione. La forma più diretta consiste nell’occultamento del volto attraverso delle maschere. Quelle che ho ideato prendono il nome di Anòmata, sono modellate con l’IA con l’obiettivo di ingannare l’IA applicata al riconoscimento facciale e le ho realizzate attraverso la stampa 3D. Un secondo approccio consiste nell’utilizzo di capi di moda anti-biometrica da me progettati, caratterizzati da pattern ripetuti di occhi e bocche, con lo scopo di interferire con i sistemi di rilevamento e identificazione. Nei contesti in cui coprire il volto può essere vietato per legge, ho pensato al trucco facciale (di ispirazione teatrale) concepito per alterare visivamente i tratti del volto.

  3. Contro-archivio. Una serie di immagini nelle quali intervengo con l’IA sulle mie fotografie per simulare processi di identificazione automatizzata e rendere visibili logiche, errori e limiti dei sistemi di analisi biometrica.

Mi interessava quindi costruire un progetto che si muovesse continuamente tra documento, intervento e simulazione. I tre filoni non sono compartimenti separati, ma diversi livelli dello stesso discorso e altrettante posizioni dello sguardo: quello del fotografo che osserva e documenta la realtà, quello del soggetto che reagisce tentando di sottrarsi all’identificazione e quello della macchina che analizza, classifica e riconosce.

Questo lavoro rende visibile, anche in modo provocatorio, una contraddizione centrale del presente: in un mondo nel quale essere visibili significa sempre più spesso essere identificabili, l’invisibilità può diventare una forma di resistenza, ma anche una nuova condizione di esclusione dallo spazio pubblico.


Faceless Generation is a visual and documentary investigation into the relationship between identity, visibility and technological surveillance.

The project grew out of my experience as a documentary photographer in Georgia during the 2024 protests, where I observed how biometric surveillance, through facial recognition, could be deployed on a large scale to identify, track and target protesters.

This technology is now embedded in airports, borders, urban infrastructures, personal devices and security systems. It promises security, efficiency and easier access, yet at the same time introduces a form of control that is often invisible, capable of turning our presence in public space into a permanent trace. When used to monitor protests, this process directly affects freedom of expression, the right to demonstrate, and the possibility of expressing dissent without being automatically identified.

What happens when the face ceases to be simply the site of identity and becomes data to be captured and classified, made available to the very authorities that dissent seeks to challenge? Drawing on my experience in Georgia, I conceived and developed a series of concealment and distortion strategies through which the image of the face attempts to evade, confuse or produce errors in the algorithmic gaze.

The project unfolds through three types of images:

  1. Reportage. A selection of my photographs from the Georgian protests, from which the idea for this project originated, together with images from other demonstrations I have documented in different countries.

  2. Concealment and distortion strategies. The most direct approach consists in concealing the face through masks. The masks I designed, called Anòmata, were modelled using AI with the aim of deceiving AI-based facial recognition systems, and were then produced through 3D printing. A second approach involves the use of anti-biometric fashion garments of my own design, characterised by repeated patterns of eyes and mouths intended to interfere with detection and identification systems. In contexts where covering the face may be prohibited by law, I explored facial make-up, inspired by theatrical practice and conceived to visually alter facial features.

  3. Counter-archive. A series of images in which I use AI to intervene on my own photographs, simulating processes of automated identification in order to make visible the logic, errors and limitations of biometric analysis systems.

I was therefore interested in constructing a project that moves continuously between document, intervention and simulation. The three strands are not separate compartments, but different layers of the same discourse and different positions of the gaze: that of the photographer, who observes and documents reality; that of the subject, who reacts by attempting to evade identification; and that of the machine, which analyses, classifies and recognises.

This work makes visible, at times provocatively, a central contradiction of the present: in a world in which being visible increasingly means being identifiable, invisibility can become a form of resistance, but also a new condition of exclusion from public space.

AI and Prejudice /  by Filippo Venturi

(in italiano sotto)

AI and Prejudice
(Images generated with artificial intelligence, 2023)

An article published on 8 February 2023 by The Guardian, highlighted how the algorithms used by artificial intelligence tend to be gender biased and end up censoring photographs depicting women's bodies, especially when nipples are visible, or pregnant women or women exercising. Large technology companies, including Google, Microsoft and Amazon, which are at the forefront of the development of software using artificial intelligence, have implemented filters to protect their users from seeing unwanted, violent or pornographic images. For example, it has been known for several years that some social networks censor female nipples but not male ones.

Journalists from the British newspaper tested this software using artificial intelligence in analysing hundreds of photographs of men and women in their underwear, while exercising, or using medical tests with partial nudity, and found that artificial intelligence labels photographs of women in everyday situations as sexually allusive. This software tends to rate pictures of women as more racy or sexually allusive than similar pictures of men. Among other consequences, social networks that make use of these algorithms censor or suppress (in the sense of making less visible to users) countless images depicting women's bodies, in some cases even harming women-led companies and businesses, further amplifying social inequalities.

Even photographs for medical use are affected by this problem. Testing these artificial intelligence algorithms on images released by the US National Cancer Institute, in particular one showing how to perform a clinical breast examination, it emerged that Google's artificial intelligence had assigned a high score in terms of indecency, Microsoft's artificial intelligence was 82% sure that the image was 'explicitly sexual', while Amazon's artificial intelligence classified it as representing 'explicit nudity'. Even photographs of pregnant women, where the belly is visible, are problematic in this regard. Google's artificial intelligence classified such a photo as 'very likely to contain racy content', while Microsoft's was 90% sure that the image was 'sexually allusive'.

Behind this problem, there is a phenomenon known to those in the field, namely that of the so-called 'biases' (prejudices/distortions), which are present in today's society and which end up inside the databases (archives) that are provided to artificial intelligence software to train itself. These archives are often a mirror of reality, where gender inequality, for example, leads artificial intelligence to imagine a man when it comes to power roles or a woman when it comes to domestic work.

Artificial intelligence bias can therefore influence the representation of women and their identities, enclosing them within predefined roles and, in a way, repeating and reiterating those limitations that have influenced women's lives for centuries and which, with difficulty, are being dismantled.


AI e Pregiudizio
(Immagini generate con intelligenza artificiale, 2023)

Una indagine pubblicata l'8 febbraio 2023 da The Guardian, ha evidenziato come gli algoritmi utilizzati dalle intelligenze artificiali tendano ad avere pregiudizi di genere, finendo col censurare le fotografie che raffigurano corpi di donne, soprattutto quando in queste sono visibili i capezzoli, oppure donne incinta o che praticano esercizio fisico. Le grandi aziende tecnologiche, fra cui Google, Microsoft e Amazon, che sono all'avanguardia nello sviluppo di software che sfruttano l'intelligenza artificiale, hanno implementato dei filtri allo scopo di proteggere i propri utenti dal vedere immagini indesiderate, violente o pornografiche. Già da diversi anni è noto, ad esempio, come alcuni social network censurino i capezzoli femminili ma non quelli maschili.

I giornalisti del giornale inglese hanno testato questi software che utilizzano l’intelligenza artificiale nell’analizzare centinaia di fotografie di uomini e donne in biancheria intima, mentre facevano esercizio fisico, oppure utilizzando test medici con nudità parziale e hanno scoperto che l’intelligenza artificiale etichetta le fotografie delle donne in situazioni quotidiane come sessualmente allusive. Questi software tendono a valutare le immagini delle donne come più audaci o sessualmente allusive rispetto a immagini simili raffiguranti gli uomini. Fra le varie conseguenze, c’è quella che vede i social network che fanno uso di questi algoritmi censurare o sopprimere (nel senso di rendere meno visibili agli utenti) innumerevoli immagini raffiguranti corpi di donne, in alcuni casi anche danneggiando le aziende e le attività guidate da donne, amplificando ulteriormente le disparità sociali.

Anche le fotografie per uso medico sono toccate da questo problema. Testando questi algoritmi di intelligenza artificiale sulle immagini rilasciate dal National Cancer Institute degli Stati Uniti, in particolare una in cui viene mostrato come eseguire un esame clinico del seno, è emerso come l'intelligenza artificiale di Google avesse assegnato un punteggio elevato in termini di indecenza, quella di Microsoft era sicura all'82% che l’immagine fosse "esplicitamente di natura sessuale", mentre quella di Amazon l’ha classificata come rappresentante "nudità esplicita". Persino le fotografie di donne incinta, dove è visibile la pancia, sono problematiche da questo punto di vista. L’intelligenza artificiale di Google ha classificato una foto di questo tipo come “molto probabile che contenga contenuti audaci”, mentre quella di Microsoft era sicura al 90% che l'immagine fosse "di natura sessualmente allusiva".

Dietro questo problema, c’è un fenomeno noto agli addetti al settore, cioè quello dei cosiddetti “bias” (pregiudizi/distorsioni), che sono presenti nella società attuale e che finiscono dentro i database (archivi) che vengono forniti ai software di intelligenza artificiale per allenarsi. Questi archivi spesso sono uno specchio della realtà, dove la disparità di genere ad esempio spinge l’intelligenza artificiale ad immaginare un uomo quando si parla di ruoli di potere oppure una donna quando si parla di lavori domestici.

I bias dell'intelligenza artificiale possono quindi influenzare la rappresentazione delle donne e delle loro identità, chiudendole all’interno di ruoli predefiniti e, in qualche modo, ripetendo e ribadendo quelle limitazioni che da secoli influenzano la vita delle donne e che, a fatica, si sta cercando di smantellare.

Progetto IDE, Reconstruction of Identities /  by Filippo Venturi

ide_project_identity_dialogues_europe.jpg

Il Progetto IDE (Identity Dialogues Europe) è un importante e ambizioso progetto europeo biennale basato sulla fotografia. Il suo scopo è promuovere e tutelare il patrimonio culturale europeo, approfondire il tema dell'identità e favorire l'integrazione dei migranti attraverso ricerche, attività formative e confronti che utilizzano la Fotografia.

Questo progetto coinvolge 4 realtà in Italia, Danimarca, Spagna e Paesi Bassi:

  • SI Fest, il festival di fotografia di Savignano sul Rubicone, rappresentato dal fotografo Filippo Venturi.

  • Copenhagen Photo Festival, il più grande festival scandinavo, rappresentato dalla fotografa Marine Gastineau e dal fotografo Martin Thaulow.

  • BFOTO, il festival di fotografia di Barbastro, rappresentato dalla fotografa Kate Buil.

  • NOOR, agenzia di fotogiornalismo di Amsterdam, rappresentata dalla fotografa Sanne De Wilde.

I fotografi sono stati ospiti di 2 residenze artistiche nel 2019: in giugno al Copenhagen Photo Festival e in settembre al SI Fest, durante le quali hanno condotto progetti fotografici, workshop, masterclass, letture portfolio, presentazioni, visite e confronti. Nel 2020 si concluderà il progetto e i risultati saranno presentati attraverso mostre e attività che saranno esposte e sviluppate in tutte e 4 le realtà coinvolte.

Questo è il sito ufficiale: www.reconstructionofidentities.eu

_________

Alcune fotografie dal Copenhagen Photo Festival, inaugurato giovedì 18 giugno 2020:

IDE Project, Reconstruction of Identities, Copenhagen Photo Festival

IDE Project, Reconstruction of Identities, Copenhagen Photo Festival

_________

Alcune fotografie dalla mostra organizzata da NOOR Fondation, inaugurata sabato 6 luglio 2020:

IDE Project, Reconstruction of Identities, NOOR Foundation