Russia

Il volto come prova. Gli effetti della sorveglianza biometrica sul diritto di manifestare by Filippo Venturi

Il volto come prova. Gli effetti della sorveglianza biometrica sul diritto di manifestare.

di Filippo Venturi

In un reportage fotografico, il volto è insieme il punto più umano e il più esposto dell’immagine. È attraverso i volti che una folla smette di essere indistinta, lasciando affiorare paura, determinazione, stanchezza ed entusiasmo. Quando nel 2024 ho lavorato in Georgia, seguendo e fotografando le elezioni parlamentari e le successive proteste di Tbilisi, erano proprio quei volti a raccontare la piazza e i cittadini, in gran parte giovani e studenti, che rivendicavano il futuro europeo del Paese. In seguito ho compreso fino in fondo che la stessa immagine capace di testimoniare una presenza poteva anche renderla vulnerabile. [5][6]

Dalle piazze di Hong Kong a Tbilisi

Il caso georgiano si inserisce in una storia che ha attraversato piazze molto diverse. Un precedente centrale è Hong Kong. Il Movimento degli ombrelli occupò per 79 giorni, tra settembre e dicembre 2014, tre aree della città; gli ombrelli divennero il simbolo di una mobilitazione per elezioni più libere. Il riconoscimento facciale non era ancora al centro dello scontro, ma anonimato e sicurezza digitale erano già entrati nelle pratiche della protesta. Cinque anni dopo, nelle manifestazioni contro la legge sull’estradizione, il confronto con la sorveglianza biometrica divenne esplicito. I partecipanti coprivano i volti, schermavano o imbrattavano le telecamere e puntavano laser verso gli obiettivi, mentre la polizia cercava di identificarli attraverso le immagini. [1][2]

Dinamiche simili sono apparse altrove. Tra il 2019 e il 2020, in India, la polizia di Delhi e dell’Uttar Pradesh usò il riconoscimento facciale durante le proteste contro la legge sulla cittadinanza; in Russia, un’analisi della Reuters di oltre 2.000 procedimenti ha mostrato l’impiego della rete di Mosca per individuare partecipanti ai cortei e, dopo l’invasione dell’Ucraina, fermare preventivamente oppositori e attivisti. La Georgia rappresenta un ulteriore passaggio, in cui la telecamera non si limita a documentare la piazza, ma può collegare un volto a un’identità e produrre conseguenze molto tempo dopo. [3][4]

Le elezioni del 26 ottobre 2024, vinte dal partito di governo Sogno Georgiano, furono contestate dalle opposizioni e dalla presidente europeista Salome Zourabichvili. La situazione si aggravò il 28 novembre 2024, quando il governo annunciò il rinvio dei negoziati di adesione all’Unione Europea al 2028. Da quel momento le proteste davanti al Parlamento e lungo Rustaveli Avenue sono proseguite, alternando grandi cortei, presìdi e iniziative più raccolte. [5][7][12]

Nelle prime settimane la risposta delle autorità fu soprattutto fisica. Secondo l’Associated Press, che riportava i dati raccolti da Amnesty International, nelle due settimane successive alla fine di novembre furono arrestate più di 400 persone e almeno 300 denunciarono pestaggi o altri gravi maltrattamenti. Le manifestazioni, tuttavia, non si fermarono. Col passare dei mesi alla repressione nelle strade si aggiunsero strumenti meno appariscenti: identificazioni a distanza, multe elevate e ricostruzioni retroattive della presenza dei singoli alle proteste. [11]

La macchina dell’identificazione

Il riconoscimento facciale è una tecnologia probabilistica. A partire da una fotografia o da un fotogramma, il software estrae una rappresentazione numerica delle caratteristiche del volto, detta modello biometrico o faceprint, e la confronta con i modelli presenti in uno o più archivi. Il risultato non è una certezza matematica, ma una probabilità di corrispondenza che supera o meno una soglia fissata dal produttore o dall’utilizzatore. [18]

Le inchieste sulla Georgia descrivono una rete composta da telecamere, software e database. Nei luoghi delle proteste sono presenti dispositivi ad alta definizione, alcuni con notevoli capacità di ingrandimento; le immagini raccolte possono poi essere elaborate da programmi che isolano i volti e cercano corrispondenze negli archivi disponibili. Più che un singolo strumento, emerge un sistema nel quale tecnologie diverse possono lavorare insieme.

Nel marzo 2025 OCCRP, rete giornalistica investigativa senza scopo di lucro, ha documentato che, a partire dal dicembre precedente, enti statali e Comune di Tbilisi avevano acquistato telecamere e licenze per circa 1,2 milioni di dollari. Tra i dispositivi figuravano 251 telecamere avanzate prodotte da Dahua Technology, società cinese i cui sistemi possono includere funzioni di analisi delle immagini e riconoscimento facciale. L’inchiesta rilevava inoltre che nel 2024 la spesa pubblica georgiana per apparecchiature di sorveglianza cinesi aveva superato i 750.000 dollari, contro circa 57.000 dollari nell’anno precedente. Gli acquisti documentano il potenziamento dell’infrastruttura, non l’impiego provato di ogni dispositivo contro i manifestanti; restavano infatti sconosciuti l’esatta collocazione e l’uso di molti dei nuovi apparati. [9]

Un’inchiesta dell’ONG AlgorithmWatch, pubblicata nel giugno 2026 e successivamente ripresa dalla testata giornalistica Civil Georgia, ha ricostruito, attraverso contratti, documentazione tecnica e testimonianze, il possibile ruolo operativo di Polyface, sistema di riconoscimento facciale prodotto dalla società moscovita Papillon AO e acquistato dal Ministero dell’Interno georgiano fin dal 2013. È documentato che il Ministero disponeva da anni di capacità di riconoscimento facciale e che nel tempo ne aveva ampliato le funzioni. Non è invece possibile stabilire, caso per caso, quale sistema o versione sia stato utilizzato. [7][13]

L’architettura è anche transnazionale: telecamere cinesi, software russo e database georgiani vengono integrati dalle autorità nazionali. Questa filiera solleva domande ulteriori su manutenzione, aggiornamenti, accesso remoto, collocazione dei dati e possibilità di sottoporre strumenti e contratti a verifiche indipendenti. AlgorithmWatch collega inoltre Papillon AO all’apparato di sicurezza russo.

Secondo AlgorithmWatch, Polyface può accedere, attraverso la Unified Information Bank, anche alle fotografie dei registri civili. La documentazione relativa al contratto del 2024 contempla inoltre l’uso di immagini ricavate dai social network o da altre fonti esterne.

Il software può essere impiegato in modi diversi: analizzando automaticamente i volti presenti in un flusso video, partendo dall’immagine selezionata da un operatore oppure segnalando la comparsa di persone già inserite in una lista. AlgorithmWatch non afferma che tutte queste funzioni siano state utilizzate in ogni protesta, ma documenta che il sistema acquistato dalle autorità georgiane è in grado di svolgerle.

Quando il volto diventa una prova

Per i manifestanti il rischio non si esaurisce nel riconoscimento in tempo reale. I filmati possono essere conservati e analizzati in un secondo momento. Si può lasciare la piazza senza essere fermati e ricevere, settimane o mesi dopo, una convocazione o una multa; se la sanzione non viene pagata, anche per problemi di notifica, può poi iniziare una procedura esecutiva che arriva anche al congelamento dei conti.

La Georgian Young Lawyers’ Association, una delle principali organizzazioni legali indipendenti del Paese, ha segnalato che nei procedimenti amministrativi per il blocco delle strade le immagini ricavate dalle telecamere sono state spesso presentate come unica prova. Secondo l’associazione, i giudici non avrebbero verificato con sufficiente attenzione né la legittimità dell’identificazione né l’autorizzazione dell’operatore ad accedere ai database protetti. [8]

Un episodio del gennaio 2025 chiarisce la portata della sorveglianza. Nel filmato mostrato al Tribunale di Tbilisi, una telecamera seguiva gli spostamenti di una persona lungo Rustaveli Avenue. Quando si fermava a leggere un documento voltando le spalle all’obiettivo, l’operatore ingrandiva l’immagine fino a rendere leggibile il testo. L’attenzione non era rivolta soltanto alla presenza in strada, ma anche al comportamento individuale.

Nei fascicoli e nei rapporti esaminati dalla testata giornalistica OC Media e dall’ONG IDFI (Institute for Development of Freedom of Information), il passaggio tecnico dell’identificazione viene descritto con formule vaghe, come il caricamento delle immagini in uno “speciale programma elettronico”. Non è quindi possibile sapere con precisione quale fotografia sia stata usata per il confronto, chi abbia confermato la corrispondenza, quale soglia sia stata applicata o per quanto tempo i dati siano stati conservati. [10][20]

Affidabilità, soglie ed errori

La soglia conta perché modifica il comportamento del sistema. Se viene abbassata, aumentano le possibili corrispondenze e con esse i falsi positivi; se viene alzata, diminuiscono gli abbinamenti errati ma cresce il rischio di non riconoscere la persona cercata. Luce, angolazione, movimento, qualità del filmato e coperture del volto incidono ulteriormente sul risultato. Le valutazioni raccolte dall’istituto federale statunitense NIST (National Institute of Standards and Technology) mostrano inoltre differenze nei tassi di falsi positivi tra algoritmi e gruppi demografici, anche su immagini frontali di buona qualità. [16][17][18]

Per questo una compatibilità algoritmica dovrebbe essere il punto di partenza di una verifica, non la sua conclusione. Come parametro europeo di riferimento, le linee guida dell’European Data Protection Board e del Consiglio d’Europa insistono sulla necessità di operatori capaci di mettere criticamente in discussione il risultato e raccomandano di non adottare provvedimenti che incidano su una persona basandosi soltanto sull’esito del software.

Una tecnologia proporzionata allo scopo?

La questione non riguarda soltanto l’accuratezza. Riguarda anche la proporzione tra lo strumento impiegato e il comportamento contestato. In Georgia, il riconoscimento facciale viene descritto soprattutto nei procedimenti per il blocco della carreggiata, dunque per un illecito amministrativo legato a manifestazioni generalmente pacifiche. È legittimo utilizzare uno degli strumenti di identificazione più invasivi oggi disponibili per perseguire una persona accusata di avere occupato una strada?

Un precedente importante è la sentenza Glukhin contro Russia del 4 luglio 2023. Il caso non riguardava la Georgia, ma fissa un parametro europeo. La Corte europea dei diritti dell’uomo ha ritenuto violati il diritto alla vita privata e la libertà di espressione dopo che la polizia russa aveva usato il riconoscimento facciale per individuare un uomo autore di una protesta individuale, pacifica e non violenta nella metropolitana di Mosca. La Corte ha sottolineato il carattere altamente invasivo della tecnologia e il possibile effetto dissuasivo sulla partecipazione pubblica. [14]

Il Protocollo modello delle Nazioni Unite per la tutela dei diritti umani nelle proteste pacifiche va ancora oltre. Non è un trattato, ma sintetizza standard e buone pratiche internazionali: la sorveglianza dei partecipanti dovrebbe essere eccezionale e legata alla prevenzione o all’indagine di uno specifico reato; il riconoscimento facciale e gli altri sistemi biometrici non dovrebbero essere usati per identificare persone che partecipano pacificamente a una protesta. Il documento riconosce inoltre una legittima aspettativa di anonimato, online e offline. [15]

Le linee guida del Consiglio d’Europa indicano come necessarie una base giuridica esplicita e una verifica rigorosa di necessità e proporzionalità. La legge dovrebbe precisare finalità, accuratezza minima, durata della conservazione, tracciabilità, possibilità di audit e garanzie per gli interessati. In un contesto come quello georgiano, il punto non è quindi stabilire se la tecnologia possa essere utile in astratto, ma se il suo impiego concreto sia indispensabile e se esistano mezzi meno invasivi. [16]

Il diritto di conoscere e contestare la prova

Una persona può difendersi soltanto se conosce le modalità con cui è stata identificata. Le linee guida del Consiglio d’Europa e, come parametro europeo di riferimento, quelle dell’European Data Protection Board, insieme ai diritti riconosciuti in linea generale dalla legge georgiana, tutelano informazione, accesso, rettifica, intervento umano e ricorso. Per rendere effettivo il diritto di difesa in un procedimento fondato sul riconoscimento facciale, sarebbe inoltre ragionevole poter conoscere almeno: [16][18][21]

• il filmato o il fotogramma originale sottoposto al sistema;

• la provenienza dell’immagine di confronto e il database consultato;

• il nome del software, la versione e le eventuali modifiche o attività di addestramento;

• la soglia impostata, il punteggio prodotto e il margine di errore noto;

• se il sistema abbia restituito altri possibili candidati oltre alla persona accusata;

• chi abbia esaminato e convalidato il risultato e con quali competenze;

• i registri degli accessi, la durata della conservazione e gli eventuali trasferimenti dei dati tra uffici o soggetti terzi.

Senza queste informazioni, la difesa deve contestare un risultato opaco, prodotto da un sistema che conosce solo attraverso la conclusione finale. La verifica umana, da sola, non basta se l’operatore non dispone del tempo, della formazione e dell’autonomia necessari per contraddire l’algoritmo.

Le multe e il costo sociale della protesta

AlgorithmWatch racconta il caso di una docente indicata con lo pseudonimo di Nino. Nel marzo 2025 fu convocata con l’accusa di avere bloccato una strada due mesi e mezzo prima. Nel filmato usato per identificarla, la si vedeva mentre cercava di attraversare la carreggiata, mentre altre persone procedevano nella direzione opposta. Fu comunque ritenuta responsabile dell’interruzione del traffico e multata per circa 1.800 dollari. [7]

La notifica non le arrivò regolarmente. Cinque mesi più tardi scoprì che i suoi conti erano stati congelati in seguito alla procedura di riscossione. Raccolse la somma con una campagna di finanziamento collettivo, poi ridusse drasticamente la propria partecipazione alle proteste. Il suo caso si inserisce in un clima più ampio di incertezza, alimentato dal timore che filmati precedenti possano essere analizzati retroattivamente e produrre nuove sanzioni.

Nel marzo 2025, secondo i dati della Georgian Young Lawyers’ Association ripresi da AlgorithmWatch e OC Media, il totale delle multe inflitte per il blocco delle strade aveva già raggiunto almeno 730.000 dollari. La singola sanzione, pari a circa 1.800 dollari, era particolarmente pesante: secondo i dati ufficiali sul reddito citati da OC Media, nello stesso periodo soltanto il 9 per cento dei percettori di reddito guadagnava almeno 1.800 dollari al mese. Nei mesi successivi la pressione aumentò: nell’ottobre 2025 l’Associated Press raccontò il caso dell’insegnante Gota Chanturia, destinatario di 56 sanzioni per un importo complessivo di circa 102.000 dollari. [10][11]

Queste cifre suggeriscono che la pressione non sia distribuita in modo uniforme. Chi dispone di un reddito stabile, di risparmi o di una rete capace di raccogliere fondi può continuare a esporsi più a lungo; gli altri rischiano di essere allontanati dalla piazza attraverso il debito, il timore di perdere il lavoro o le conseguenze sulla famiglia. La protesta rischia così di diventare, almeno in parte, un diritto più facilmente esercitabile da chi può sostenerne il costo.

Manca ancora un conteggio pubblico affidabile delle persone identificate e multate. Giorgi Gogia di Human Rights Watch ha parlato di migliaia di multati, precisando però che il numero esatto è difficile da ricostruire. Senza dati completi diventa quasi impossibile valutare quanto il sistema sia esteso, proporzionato e accurato, oppure sapere con quale frequenza produca errori. [11]

Anche il confine tra manifestante, osservatore e giornalista si fa incerto. Mariam Nikuradze, fotografa, giornalista e cofondatrice di OC Media, ha ricevuto quattro sanzioni per un totale di circa 7.300 dollari, nonostante affermi di essere stata in strada per documentare le proteste. Javid Ahmedov, studente di giornalismo azero, ha scoperto invece di essere stato multato per circa 3.700 dollari dopo avere filmato una manifestazione.

Maschere, anonimato e sorveglianza oltre il volto

Nel gennaio 2025 molti manifestanti tornarono nelle strade di Tbilisi con il volto coperto, sfidando apertamente le nuove norme che vietavano l’uso delle maschere durante le manifestazioni. Coprirsi serviva già a proteggersi da gas, sostanze irritanti e possibili ritorsioni, ma con la crescita della sorveglianza biometrica divenne anche un modo per difendere la propria identità. [12]

La nuova legge li poneva però in una situazione senza una vera via d’uscita: mostrare il volto significava esporsi all’identificazione, nasconderlo significava esporsi a una sanzione. Alcuni hanno raccontato di avere rinunciato a fischietti, cartelli, fotografie o indumenti facilmente riconoscibili. Altri hanno cambiato percorso per raggiungere il luogo delle proteste, limitato l’uso dei social network o smesso del tutto di partecipare. [7]

La maschera, inoltre, interrompe soltanto uno dei possibili canali di identificazione. Le tecnologie biometriche possono comprendere anche voce, andatura e altre caratteristiche fisiche o comportamentali. In un sistema di sorveglianza più ampio, queste informazioni possono essere incrociate con dati dei telefoni, geolocalizzazione, attività sui social network e altre tracce digitali. Coprire il viso può rendere il riconoscimento più difficile, ma non garantisce di diventare invisibili. [18][19]

È ciò che viene definito chilling effect, l’effetto raggelante prodotto dalla sorveglianza. Per modificare un comportamento collettivo non occorre identificare tutti: basta che ciascuno ritenga possibile essere riconosciuto in seguito. Il Protocollo delle Nazioni Unite chiede che siano valutati anche questi effetti meno visibili, capaci di limitare la partecipazione e l’esercizio delle libertà fondamentali.

La pressione cambia anche l’aspetto e le relazioni interne alla protesta. Alcuni partecipanti hanno raccontato che in una piazza piena di persone mascherate diventa più difficile riconoscersi, leggere le espressioni degli altri e stabilire un contatto immediato. Una protezione necessaria sul piano individuale può quindi modificare, almeno in parte, l’esperienza collettiva.

Fotografare sotto sorveglianza

Per chi fotografa una protesta, questa trasformazione impone domande nuove. Una macchina fotografica e una telecamera di sorveglianza possono riprendere la stessa scena, ma producono archivi nati con finalità e responsabilità differenti. Il reportage costruisce una testimonianza destinata al pubblico; il sistema di controllo può isolare un volto, collegarlo a un nome e usarlo in un procedimento. Anche le immagini giornalistiche, però, una volta pubblicate possono essere estratte dal loro contesto, analizzate automaticamente e incrociate con altri archivi.

Durante e dopo un reportage occorre quindi valutare non soltanto che cosa mostrare, ma anche quando e come farlo: se pubblicare integralmente un volto, attendere prima della diffusione, eliminare i metadati non necessari o evitare sequenze che permettano di ricostruire gli spostamenti di una persona. Non esiste una regola valida per ogni situazione. Oscurare i volti può proteggere i partecipanti, ma può anche cancellarne la presenza politica, sottrarre individualità alla piazza e indebolire il valore testimoniale delle fotografie.

La mia esperienza in Georgia è all’origine di “Faceless Generation”, un progetto dedicato ai modi in cui le persone cercano di sottrarsi all’identificazione algoritmica attraverso occultamento, distorsione e ambiguità. Le maschere stampate in 3D, il trucco che modifica la percezione dei tratti e gli indumenti anti-biometrici non vengono presentati come soluzioni definitive. Servono piuttosto a rendere visibile il conflitto tra la necessità di apparire nello spazio pubblico e il desiderio di non essere trasformati in un dato.

Restare visibili

Rendersi invisibili a una macchina, ammesso che sia davvero possibile, non è un gesto privo di conseguenze. Un volto coperto può attirare l’attenzione della polizia, impedire l’accesso a un luogo o essere interpretato come un segnale di pericolo. Restare visibili, d’altra parte, significa accettare la possibilità di essere identificati, schedati e seguiti. L’invisibilità può proteggere, ma può anche spingere ai margini dello spazio pubblico.

Le tecnologie biometriche possono avere impieghi legittimi quando sono limitate a contesti precisi, regolate dalla legge e sottoposte a controlli indipendenti. In Georgia, però, colpisce soprattutto l’asimmetria tra le autorità, che dispongono degli strumenti per vedere, identificare, cercare e seguire i cittadini, e chi viene osservato, che sa poco dei criteri usati, degli archivi consultati e delle procedure disponibili per contestare un errore o far valere un diritto.

Restano domande molto concrete. Quali database vengono realmente interrogati? Per quanto tempo sono conservati i filmati? Chi è autorizzato a svolgere le ricerche? Quali soglie di affidabilità vengono applicate? Esistono valutazioni d’impatto pubbliche e audit indipendenti? E come può difendersi una persona identificata o accusata in modo errato?

Il caso georgiano mostra che il diritto di manifestare non dipende solo dalla possibilità formale di scendere in piazza. Conta anche ciò che accade alle immagini raccolte in quel momento e negli anni successivi. Quando un volto ripreso nello spazio pubblico può essere cercato, associato a un’identità e seguito nel tempo, la distanza tra testimonianza e sorveglianza si assottiglia. Il problema non è quindi soltanto chi viene riconosciuto oggi, ma quali forme di partecipazione resteranno possibili domani.

Abstract

Nel 2024 ho fotografato le proteste georgiane nate dopo le elezioni e la decisione del governo di rinviare fino al 2028 l’apertura dei negoziati con l’Unione Europea. In quelle piazze il volto, centrale nel racconto fotografico, è diventato anche un dato utilizzabile per identificare i partecipanti. Alla repressione fisica si sono affiancati controlli a distanza, analisi retroattive dei filmati e multe arrivate mesi dopo le manifestazioni.

Dal dicembre 2024 enti statali e Comune di Tbilisi hanno acquistato dispositivi e licenze di sorveglianza per circa 1,2 milioni di dollari. Il Ministero dell’Interno dispone inoltre da anni di Polyface, un sistema russo di riconoscimento facciale aggiornato più volte.

Le corrispondenze algoritmiche dipendono da soglie, qualità delle immagini e verifiche umane, ma le procedure georgiane restano poco trasparenti. La giurisprudenza della Corte europea e gli standard delle Nazioni Unite e del Consiglio d’Europa richiamano necessità, proporzionalità, tracciabilità e garanzie effettive.

Le maschere proteggono il volto ma non eliminano altri canali di identificazione e il loro uso è stato a sua volta vietato e sanzionato. Da questa tensione tra visibilità, testimonianza, resistenza ed esclusione nasce il mio progetto “Faceless Generation”.

Fonti

[1] Oxford Research Encyclopedia of Asian History, The Umbrella Movement of Hong Kong, 23 agosto 2023.

[2] The New York Times, In Hong Kong Protests, Faces Become Weapons, 26 luglio 2019.

[3] Reuters, India’s Use of Facial Recognition Tech During Protests Causes Stir, 17 febbraio 2020.

[4] Reuters, Facial Recognition Is Helping Putin Curb Dissent with the Aid of U.S. Tech, 28 marzo 2023.

[5] Filippo Venturi, Georgian Nightmare, progetto fotografico, 2024.

[6] Filippo Venturi, The Disrupted Dream, progetto fotografico, 2024.

[7] AlgorithmWatch, Seen and Silenced: How Russian Surveillance Software Suppresses Georgian Civilians Rights, 27 giugno 2026.

[8] Georgian Young Lawyers’ Association, The Ministry of Internal Affairs Uses Facial Recognition Technologies Against Peaceful Demonstrators for Total Control, 12 marzo 2025.

[9] OCCRP, Georgia’s Surveillance Surge: Chinese Cameras Spark Protest Crackdown Fears, 28 marzo 2025.

[10] OC Media, Georgian Dream is watching: how AI-powered surveillance is used against Tbilisi protesters, 29 maggio 2025.

[11] Associated Press, A Russia-like crackdown in Georgia is targeting protesters, rights activists and the media, 3 ottobre 2025.

[12] Radio Free Europe/Radio Liberty, Georgian Protesters Back on Streets as Ex-President Takes Cause to Trump Inauguration, 18 gennaio 2025.

[13] Civil Georgia, Report: Georgia Has Used Russian Facial Recognition System to Identify Protesters, 29 giugno 2026.

[14] Corte europea dei diritti dell’uomo, Glukhin v. Russia, ricorso n. 11519/20, 4 luglio 2023.

[15] Clément Nyaletsossi Voule, Relatore speciale delle Nazioni Unite sui diritti alla libertà di riunione pacifica e di associazione, Model Protocol for Law Enforcement Officials to Promote and Protect Human Rights in the Context of Peaceful Protests, realizzato in collaborazione con UNODC e OHCHR, A/HRC/55/60, 31 gennaio 2024.

[16] Consiglio d’Europa, Comitato consultivo della Convenzione 108, Guidelines on facial recognition, 28 gennaio 2021.

[17] National Institute of Standards and Technology, Face Recognition Technology Evaluation: Demographic Effects in Face Recognition, tabella riepilogativa aggiornata al 5 marzo 2025.

[18] European Data Protection Board, Guidelines 05/2022 on the use of facial recognition technology in the area of law enforcement, versione 2.0, adottata il 26 aprile 2023 e pubblicata il 17 maggio 2023.

[19] Alto Commissariato delle Nazioni Unite per i diritti umani, Impact of new technologies on the promotion and protection of human rights in the context of assemblies, including peaceful protests, A/HRC/44/24, 24 giugno 2020.

[20] Institute for Development of Freedom of Information, Massive Surveillance of Protesters and Inadequate Response of the Personal Data Protection Service, 15 aprile 2025.

[21] Legislative Herald of Georgia – Matsne, Law of Georgia on Personal Data Protection, testo consolidato, aggiornato al 10 giugno 2026.

Nota dell’autore

Ho scelto di inserire questa Nota per chiarire come utilizzo l’intelligenza artificiale (IA) nei miei testi. Così come auspico trasparenza per le immagini generate con IA (soprattutto quando imitano la fotografia, in particolare in questa fase storica), la ritengo importante anche nella scrittura. Mi piacerebbe che indicazioni di questo tipo comparissero più spesso anche nei giornali e nelle altre fonti che consulto, magari accompagnate da dettagli specifici nel caso di un uso più esteso o diversificato di questa tecnologia.

Nei miei articoli utilizzo strumenti basati sull’intelligenza artificiale come assistenti editoriali, ma le idee, le interpretazioni e le connessioni concettuali sono interamente umane e frutto della mia ricerca personale.

Impiego l’IA nella fase di revisione della bozza per individuare eventuali errori grammaticali, refusi o imprecisioni concettuali, verificare la correttezza di date e riferimenti, valutare la chiarezza del testo per un pubblico che potrebbe non conoscere i temi trattati (sigle, acronimi, termini tecnici) e ridurre le ripetizioni.

Valuto e verifico sempre ogni suggerimento dell’IA, consapevole che in alcuni casi può generare errori o “allucinazioni”, cioè dati inventati o distorti. Nessuna modifica proposta viene da me applicata automaticamente.

Non la utilizzo per generare contenuti originali, elaborare tesi o formulare giudizi. Ogni argomento, esempio e analisi proviene dal mio lavoro, dalla mia esperienza diretta o da fonti verificabili.

Fotografia, informazione e I.A. - L'esperienza di un fotoreporter by Filippo Venturi

Giovedì 24 Settembre 2026, presso la Biblioteca Malatestiana di Cesena, terrò un incontro intitolato “Fotografia, informazione e I.A. - L'esperienza di un fotoreporter“, rivolto agli insegnanti e organizzato dall’Istituto Storico della Residenza di Forlì-Cesena.

Oltre al sottoscritto, interverranno esperti e docenti di diverse università sul tema fare didattica con il linguaggio fotografico. Si parlerà di fotogiornalismo, invasione ucraina, terrorismo, intelligenza artificiale e tanto altro!


Abstract:
Partendo dalla propria esperienza di fotoreporter in contesti segnati da conflitti politici, crisi democratiche e sociali, Filippo Venturi propone una riflessione sul ruolo della fotografia nell’ecosistema contemporaneo dell’informazione, oggi attraversato dalla diffusione dell’intelligenza artificiale, dei deepfake e da una crescente incertezza nel rapporto tra immagine e realtà. Attraverso esempi tratti dal suo percorso professionale e dalla sua ricerca artistica, la lezione affronta le trasformazioni del mestiere del fotografo, le responsabilità etiche del giornalismo visivo e il modo in cui le immagini possono documentare, interpretare, orientare o manipolare la percezione del mondo. Un incontro per interrogarsi sul valore della testimonianza fotografica nell’epoca delle immagini artificiali e sugli strumenti necessari per imparare a guardare.

Docente:
Filippo Venturi è un fotografo documentarista e artista visivo i cui lavori sono stati pubblicati su testate internazionali come National Geographic, The Washington Post e The Guardian. Ha documentato dittature, democrazie in crisi e movimenti per i diritti. Negli ultimi anni, grazie alla sua formazione in Informatica, la sua ricerca indaga il rapporto tra immagine, informazione e tecnologia, con un’attenzione particolare all’intelligenza artificiale (IA) e alle sue implicazioni nella percezione della realtà.  Accanto alla pratica artistica, tiene corsi e seminari in contesti come BergamoScienza e la New York University. È docente di fotografia nel Master di Giornalismo dell’Università di Bologna. 

Mr Nobody Against Putin, recensione by Filippo Venturi

“Mr Nobody Against Putin” è un documentario incredibilmente prezioso che ha ricevuto molti riconoscimenti, fra cui l'Oscar 2026 per il miglior documentario.

Il film segue Pavel “Pasha” Talankin, un giovane coordinatore di eventi scolastici e videomaker della scuola primaria di Karabash, una piccola città industriale russa negli Urali. Il protagonista è goffo, autoironico, persino tenero, e non si fa problemi a mostrarlo nelle riprese video della sua quotidianità, ma questa apparente leggerezza nasconde un carattere forte, che non si piega quando qualcuno ne mette in discussione i principi.

Con l’inizio della cosiddetta “operazione militare speciale” (la guerra d'invasione russa dell'Ucraina), la scuola inizia a subire sempre di più l'invasività capillare della propaganda. La quotidianità educativa si svuota. Le attività degli insegnanti con i ragazzi si azzerano quasi del tutto, sostituite dalla necessità di documentare l'obbedienza alle direttive giunte dall'alto, a dimostrarsi patrioti e a fare il lavaggio del cervello agli studenti. A un certo punto, Pasha lo dice chiaramente: “sembrava che anche noi insegnanti stessimo combattendo”.

Inizialmente, stanco di quella nuova realtà, Pasha rassegna le dimissioni (effettive alla fine dell’anno scolastico), ma quando riceve risposta a una sua precedente proposta, da parte di una produzione internazionale (tra cui la BBC) interessata al suo materiale video, ritira le dimissioni e il suo registrare lo svolgimento delle attività imposte dalla propaganda diventa documentazione e denuncia.

Questa nuova realtà è agghiacciante e include l'arrivo dei mercenari della Wagner (una compagnia militare privata russa, agli ordini del Cremlino) che entrano nelle scuole per spiegare come usare le mine antiuomo, svolgere esercitazioni, organizzare competizioni di lancio delle granate con gli studenti. Divise, armi e accessori bellici vengono introdotti nell'istituto e fatti indossare ai giovani. L’infanzia e l’educazione vengono progressivamente militarizzate.

Alcuni amici di Pasha, ex studenti suoi coetanei o giovani che aveva visto diplomarsi, saranno arruolati e finiranno in Ucraina, per non fare più ritorno.

Al funerale di uno di questi, Pasha deciderà di registrare solo l'audio perché sarebbe troppo rischioso filmare un evento militare e, per circa un minuto di schermo nero, si udiranno le grida di dolore della madre che piange il figlio.

Pasha, in seguito, dopo aver notato una macchina della polizia regolarmente parcheggiata sotto al suo ufficio (cosa anomala in un paese piccolo come Karabash), il graduale allontanarsi da parte dei giovani che frequentavano il suo studio come spazio creativo e l'attirare sospetti a causa del suo attivismo malcelato anti-propaganda, deciderà di lasciare la Russia il giorno dopo aver svolto la cerimonia di consegna dei diplomi agli studenti, riuscendo a portare con sé, oltre il confine, più di due anni di video girati, da cui nascerà questo importantissimo documentario, che testimonia come lentamente l’assurdo sia diventato quotidiano.

Si tratta quindi di un film necessario, disturbante, che parla di Russia, mostrandone il cinismo della propaganda, ma anche come i giovani russi siano vittime di questo sistema, ben noto e collaudato, che caratterizza le dittature e che spaventa per quanti danni possa causare in una generazione di studenti.

Sicurezza e Democrazia by Filippo Venturi

La questione del riarmo europeo è un tema estremamente complesso e stratificato. Di sicuro è inadatto a essere liquidato con slogan come “UE guerrafondaia” o “Von der Leyen pazza”.

Per oltre 70 anni, una larga parte dell’Europa ha goduto di una pace senza precedenti. Dal 1945 a oggi la guerra non ha più toccato il territorio degli Stati dell’Europa occidentale, il che è un risultato straordinario se si considera la storia del continente. Questo lungo periodo di stabilità è stato possibile grazie a una combinazione di fattori. L’integrazione economica, lo sviluppo del mercato comune, la progressiva interdipendenza industriale e commerciale, ma soprattutto la scelta politica di ragionare come alleati e non più come rivali.

Un elemento strutturale è stato il ruolo degli Stati Uniti nella difesa del continente. I paesi europei hanno delegato una parte sostanziale della propria sicurezza agli USA (anche tramite la NATO), i quali hanno garantito un “ombrello di sicurezza” che ha consentito agli Stati europei di ridurre la spesa militare, investendo invece nello sviluppo economico, nel welfare state, nella sanità pubblica e nei diritti sociali.

Questo equilibrio prevedeva però anche una forma di subordinazione soft, cioè una dipendenza strategica consapevole e consensuale, in cui Washington assumeva il ruolo di alleato dominante, una sorta di fratello maggiore benevolo ma pur sempre con l'ultima parola. Una relazione che Donald Trump ha progressivamente trasformato in un rapporto più ricattatorio, simile a quello di un genitore severo e minaccioso.

Alcune dichiarazioni recenti suggeriscono che Trump e Putin condividano l'interesse a un indebolimento dell'UE. Può essere che i due stiano perseguendo questo scopo per puro senso di giustizia e per generosità? O forse è utile a entrambi una UE decaduta e frammentata in 27 paesi più deboli sotto ogni punto di vista, che dovrebbero per forza cercare riparo sotto l'ala egemonica statunitense o russa o cinese?

Il nodo politico fondamentale, oggi, è quindi comprendere se l’Unione Europea desideri davvero diventare una potenza fra le potenze, capace non solo di produrre ricchezza e norme, ma anche di garantire la propria sicurezza. Questo include inevitabilmente interrogarsi su un rafforzamento della difesa comune e, nel lungo periodo, sulla creazione di un vero e proprio esercito europeo, dotato di capacità di deterrenza credibile.

Altrimenti, l’Europa continuerà a essere l’unica grande area del mondo a difendersi con le sole buone intenzioni e con la diplomazia. Ma la realtà geopolitica attuale, con guerre alle porte dell’UE, un sistema internazionale sempre più instabile e potenze revisioniste in piena espansione, suggerisce che questo approccio non sia più sostenibile (e quando lo era, vedeva comunque il braccio armato americano sullo sfondo).

L’aspetto forse più delicato riguarda però il costo della democrazia. Mantenere società pluraliste, garantire diritti sociali e civili, sostenere sistemi sanitari pubblici funzionanti, investire in istruzione, ricerca, trasparenza e stato di diritto richiede risorse ingenti. Le dittature, al contrario, possono risparmiare tagliando tutto ciò che rende una società vivibile ma non di qualità.

L’augurio, e la sfida politica più grande, è che l’Unione Europea scelga di rafforzare la propria sicurezza senza scivolare nella logica competitiva delle autocrazie. Che non rinunci ai propri valori, ai diritti dei cittadini, ai servizi pubblici o al proprio modello sociale per stare al passo con chi basa il proprio potere sulla repressione anziché sul consenso.

[L'immagine è tratta dal mio lavoro "Broken Mirror", realizzato con l'intelligenza artificiale]

Interstizi di coscienza by Filippo Venturi

Il fatto che siano uscite le intercettazioni di Witkoff con Yuri Ushakov, dimostra che anche in una Amministrazione come quella americana, composta nei suoi vertici interamente da yes-man, qualcuno che è schifato c’è sempre.

Mi vengono in mente Fini e Alfano, che a loro tempo misero il bastone fra le ruote a Berlusconi, così come John Bolton con lo stesso Trump (al primo mandato) o Geoffrey Howe con Margaret Thatcher.

Pare che qualcuno dell'intelligence americana (vedi articolo del Guardian, “Chi ha leakato la telefonata di Witkoff?”) abbia voluto portare alla luce le porcherie di Trump e dei suoi uomini di fiducia nel portare avanti le trattative sull’Ucraina, concedendo tutto ai russi. Vedremo se queste interferenze si ripeteranno in futuro.

Non di rado, queste figure ribelli vengono emarginate e quindi è improbabile che facciano quel che facciano per un proprio tornaconto economico o politico. Evidentemente c'è un limite anche nel mangiare la m3rda.

Sembra che anche nei sistemi più verticali e asserviti, qualche individuo conservi un frammento di coscienza, al punto di spingersi a compiere un gesto di sabotaggio, che incrina l’ordine prestabilito. È come se, dentro ogni struttura di potere, sopravvivesse un interstizio in cui il senso di giustizia può ancora mettere radici.

Ha provato a riavviare? by Filippo Venturi

𝗛𝗮 𝗽𝗿𝗼𝘃𝗮𝘁𝗼 𝗮 𝗿𝗶𝗮𝘃𝘃𝗶𝗮𝗿𝗲?

Ogni volta che Donald Trump entra in contatto con Vladimir Putin, sembra che quest'ultimo riesca magicamente a resettargli il cervello, riportandolo alle impostazioni di fabbrica, cioè con stima e reverenza verso il leader russo.

Basta una telefonata e i toni muscolari del Presidente USA svaniscono, facendo emergere cautela nelle sanzioni ai russi, ottimismo sui colloqui, fiducia nel fatto che “Vladimir vorrà la pace”.

Sembra di vedere un innamorato che non riesce a rassegnarsi ad accettare che il partner lo manipoli, finendo col concedergli troppi perdoni e possibilità.

È sudditanza psicologica? Ammirazione? Strategia negoziale?

Sarei curioso di assistere a quegli incontri e dialoghi per capire se ci sia veramente una maestria dei russi nell'abbindolare regolarmente l'anziano americano. E sono anche curioso di vedere se e come cambierà il discorso dei rifornimenti di missili Tomahawk e dell'appoggio in generale a Kiev.

Georgian Nightmare by Filippo Venturi

Georgian Nightmare
(Tbilisi, Gori, Ergneti, Khurvaleti, border with South Ossetia — 2024)

Georgia, a country positioned between Europe and Asia, is experiencing a highly tense political phase. Despite its historic ties with Russia, it has for several years expressed a clear aspiration toward the West, culminating in its official recognition as a candidate country for the European Union in December 2023. However, the path toward European integration appears increasingly uncertain. In recent months, the ruling party, Georgian Dream, seems to have reversed course: after bringing Georgia closer to the EU, it seems to have adopted a pro-Russian line, made evident with the passage in 2024 of the controversial law on “foreign agents” — after two years of demonstrations and protests by the population — evidently inspired by the Russian norm used to restrict press freedom and NGO activity.

This change in the party's course has sparked deep divisions within the country: on the one hand a large segment of the population, particularly the very young (the so-called Generation Z), dreams of the country's entry into the EU, and on the other a government that seems to be increasingly aligning itself with Moscow's interests. The October 26, 2024 parliamentary elections, won again by the ruling party, were disputed by the opposition and declared fraudulent by pro-European President Salome Zourabichvili, who called the results a “special operation” by Russia (citing the term used by Putin in February 2022, at the start of the invasion of Ukraine). Georgia's future thus remains poised between two opposing forces, the West and Russia, with the latter having been waging a multi-level international hybrid war for years.


Georgian Nightmare
(Tbilisi, Gori, Ergneti, Khurvaleti, confine con l’Ossezia del sud — 2024)

La Georgia, un paese posizionato tra Europa e Asia, sta vivendo una fase forte tensione politica. Nonostante i suoi storici legami con la Russia, da diversi anni ha espresso una chiara aspirazione verso l'Occidente, culminata nel riconoscimento ufficiale come paese candidato all'Unione Europea nel dicembre 2023. Tuttavia, il percorso verso l'integrazione europea appare sempre più incerto. Negli ultimi mesi il partito al governo, Sogno Georgiano, sembra aver invertito la rotta: dopo aver avvicinato la Georgia all’Europea, sembra aver adottato una linea filo-russa, resa evidente con l’approvazione nel 2024 della controversa legge sugli "agenti stranieri"— dopo due anni di manifestazioni e proteste da parte della popolazione — palesemente ispirata alla norma russa utilizzata per limitare la libertà di stampa e l'attività delle ONG.

Questo cambiamento di rotta del partito ha suscitato profonde divisioni interne al paese: da una parte una ampia fetta della popolazione, in particolare i giovanissimi (la cosiddetta Generazione Z), sogna l’ingresso del paese nell'UE, e dall'altra un governo che sembra allinearsi sempre più agli interessi di Mosca. Le elezioni parlamentari del 26 ottobre 2024, vinte nuovamente dal partito di governo, sono state contestate dall’opposizione e dichiarate fraudolente dalla presidente europeista Salome Zourabichvili, che ha definito i risultati una "operazione speciale" della Russia (citando il termine usato da Putin a febbraio 2022, all’avvio dell’invasione dell’Ucraina). Il futuro della Georgia rimane dunque in bilico tra due forze opposte, l’Occidente e la Russia, con quest’ultima che da anni sta portando avanti una guerra ibrida internazionale su più livelli.



Le elezioni in Georgia del 26 ottobre 2024 hanno rappresentato un momento cruciale per il futuro del Paese. Si tratta dell'ennesima democrazia europea che si trova ad affrontare una prova difficile, divisa tra l'aspirazione di avvicinarsi all'Unione Europea e le pressioni russe, che mirano a riportarla sotto l'influenza di Putin.

Il 26 ottobre 2024 si è votato in Georgia per le elezioni parlamentari. È stato un momento cruciale per le sorti del paese, per capire se nel prossimo futuro la Georgia, che tradizionalmente ha legami molto stretti con la Russia, continuerà l’avvicinamento all'Unione Europea. La Georgia è ufficialmente un paese candidato all'integrazione europea dal dicembre 2023 (dopo aver fatto richiesta formale nel marzo 2022), ma negli ultimi anni il suo governo sembra aver interrotto tale percorso, per spostarsi su posizioni sempre più filorusse.

Nell’aprile 2024, molteplici proteste portate avanti da migliaia di cittadini avevano avuto luogo per cercare di impedire (senza successo) l'approvazione di una legge contro i cosiddetti “agenti stranieri” (tutte quelle associazioni che ricevono almeno il 20% dei propri fondi dall’estero), ispirata a una legge simile in vigore in Russia dal 2012 e che il regime di Vladimir Putin ha usato per far chiudere media indipendenti, ONG e associazioni della società civile.

Nel 2023 proteste analoghe erano riuscite a spingere il governo a ritirare questa legge ma, quest’anno, non sono bastate a evitare una legge che, per i manifestanti, indebolisce ulteriormente la democrazia georgiana e ostacola l’ingresso del paese nell’UE, desiderato da circa l’80% della popolazione. Nemmeno il veto posto dalla presidente della Repubblica ed europeista, Salome Zourabichvili, ha potuto fermare questa legge, avendo il governo abbastanza voti in Parlamento per aggirarlo.

Il partito al governo, Sogno Georgiano — fondato dal miliardario Bidzina Ivanishvili, sempre allineato alle posizioni del regime russo — ha basato gran parte della sua campagna sull'accusa che l’Occidente starebbe finanziando delle ONG in Georgia per fomentare una rivoluzione che porterebbe instabilità e che metterebbe il paese contro la Russia, e dunque contro i suoi interessi. Questa motivazione è simile alla retorica usata da Vladimir Putin, contro i suoi oppositori interni, accusati di essere manovrati dall’Occidente per danneggiare la Russia, e a quella usata dal dittatore bielorusso Alexander Lukashenko, quando ha represso con violenza le proteste popolari interne. Nei mesi in cui è stata riproposta e in seguito approvata la legge sugli “agenti stranieri”, il governo sembra aver assunto una posizione più apertamente ostile all’Occidente. Domenica 20 ottobre 2024, a Tbilisi (capitale della Georgia), decine di migliaia di persone hanno manifestato nuovamente a favore dell'ingresso della Georgia nell'Unione Europea.

Domenica 27 ottobre 2024, il giorno dopo le elezioni, la Presidente della Georgia, Salome Zourabichvili ha denunciato la falsificazione delle elezioni legislative avvenute sabato 26 ottobre e vinte dal partito filorusso già al potere, Sogno Georgiano. Le stesse elezioni erano state contestate dall'opposizione in giornata. Oltre a dichiarare illegittimi i risultati delle elezioni, definendole una "operazione speciale" russa, Zourabichvili ha annunciato una grande protesta per la sera di lunedì 28 ottobre, in cui è stata ufficializzata la richiesta di ripetere le elezioni. Un'altra manifestazione è seguita il lunedì successivo. Tutto ora è nelle mani di UE e USA e delle eventuali pressioni diplomatiche itnernazionali per far ripetere le elezioni; nel frattempo i partiti di opposizione hanno rifiutato di prendere posto nel nuovo Parlamento eletto.

Incontrare Emmanuel Carrère a Tbilisi by Filippo Venturi

In questi giorni a Tbilisi sono successe diverse cose interessanti, incontri piacevoli, ma anche brutte notizie.

La cosa più imprevedibile, però, è stato passare alcune ore con Emmanuel Carrère: entrambi interessati alle sorti della Georgia. Condividendo molteplici caffè e chiacchierate con Monica Perosino :)

Qui un ritratto e una foto nella press room dove attendevamo notizie sui risultati elettorali, la notte di sabato 26 ottobre 2024.

Show me the kitten (or the ravenous machine) by Filippo Venturi

[english below]


Show me the kitten / or the ravenous machine (—, 2024)

Di seguito una anteprima di questo mio ultimo lavoro, ancora in corso.

Abstract

Questo progetto indaga la "fame insaziabile" di dati dell'intelligenza artificiale (I.A.), addestrata tramite etichettamenti e descrizioni di questi dati, spesso svolti inconsapevolmente o in maniera apparentemente innocua dagli utenti di Internet.

Attraverso fotografie, frame video e immagini generate con l'I.A., ho esplorato come i sistemi pensati per la sicurezza degli utenti e dei servizi del web (come ad esempio i reCAPTCHA) contribuiscono a migliorare i sistemi di I.A., anche in ambito militare, generando un corto circuito fra ciò che avrebbe una finalità di protezione e sicurezza e ciò che invece sfrutta le abilità umane per allenare questa tecnologia; fra ciò che serve per riconoscere un essere umano da un bot e ciò che invece aiuta i bot a imitare gli esseri umani, in maniera sempre più accurata e allarmante.

Da tutto questo emergono criticità sull'etica, la trasparenza, lo sfruttamento inconsapevole delle persone e il nostro futuro.

Presentazione integrale

Questo progetto indaga l'inesauribile fame di dati da parte dell'intelligenza artificiale (I.A.) e la sua necessità di essere addestrata, tramite etichettamenti e descrizioni di questi dati, ripetute milioni di volte da lavoratori sottopagati oppure dalle attività svolte online dagli utenti di Internet, spesso a loro insaputa.

Questo lavoro – composto da fotografie originali, fotografie d’archivio, frame di videogame, frame di video dal punto di vista dei droni da guerra e immagini generate – esplora il modo in cui l’I.A. si nutre di queste informazioni, anche in modo subdolo, ad esempio attraverso il cosiddetto CAPTCHA (Completely Automated Public Turing-test-to-tell Computers and Humans Apart, ossia test di Turing pubblico e completamente automatico per distinguere computer e umani), che richiede all'utente che si collega online ad un sito o un servizio di scrivere quali siano le lettere o i numeri presenti in una sequenza, spesso distorta o offuscata sullo schermo, che in teoria non sarebbe riconoscibile da un sistema automatizzato (o bot).

Nelle versioni successive e più avanzate, come il reCAPTCHA, si è iniziato a chiedere agli utenti, in modo apparentemente innocuo, di identificare oggetti all’interno di immagini, come automobili, segnali stradali, semafori, persone o animali che, oltre a riconoscere se l’utente è un essere umano, forniscono informazioni utili per addestrare sistemi di intelligenza artificiale (1), migliorandone la capacità di riconoscere e comprendere il contenuto visivo. Va da sé che queste informazioni, ripetute innumerevoli volte ogni giorno in tutto il mondo, possono rappresentare una risorsa importante anche per migliorare tante tecnologie basate sull’I.A., come i sistemi di guida autonoma di alcuni modelli di automobili, ma anche di tecnologie militari impiegate in guerra. I droni - diventati una delle armi principali nella guerra in Ucraina - in particolare i modelli aerei più avanzati, possono imparare a muoversi autonomamente, a riconoscere gli ostacoli da evitare, ma anche i bersagli da colpire.

Negli anni passati è emerso come alcune multinazionali, che hanno investito maggiormente nella ricerca in questo settore, abbiano iniziato a collaborare con il Dipartimento della Difesa Americano (2,3) per ottimizzarne gli strumenti e le tecnologie. Il “Project Maven” di Google provocò molte critiche e preoccupazioni da parte degli stessi dipendenti, fino a spingere l’azienda ad abbandonarlo. Il progetto però non morì, ma si limitò a passare ad altri appaltatori (4).

Le immagini di questo lavoro mirano a dimostrare che l'atto di garantire la sicurezza degli utenti e dei servizi online, fornendo informazioni, è parte di un meccanismo più grande, in cui la privacy e la consapevolezza degli utenti sono spesso trascurate. Questo sistema genera un corto circuito fra ciò che avrebbe una finalità di sicurezza e ciò che invece sfrutta le abilità umane per addestrare una I.A.; fra ciò che serve per riconoscere un essere umano da un bot e ciò che invece aiuta i bot a imitare gli esseri umani in maniera sempre più accurata e allarmante.

Questo progetto si interroga su questioni come la trasparenza, l'etica e il futuro dell'interazione tra umani e macchine, invitando lo spettatore a riflettere sul ruolo inconsapevole che ciascuno di noi gioca nell'alimentare l'intelligenza artificiale.

1 By Typing Captcha, you are Actually Helping AI’s Training (apnews.com)
2 Google Is Helping the Pentagon Build AI for Drones (theintercept.com)
3 Google is quietly providing AI technology for drone strike targeting project (gizmodo.com)
4 In Ukraine, New American Technology Won the Day. Until It Was Overwhelmed (nytimes.com)

Show me the kitten / or the ravenous machine (—, 2024)

Below is a preview of my latest work, still in progress.

Abstract

This project investigates artificial intelligence's (A.I.) 'insatiable hunger' for data, trained by labelling and describing this data, often carried out unknowingly or seemingly innocuously by Internet users.

Through photographs, video frames, and images generated with A.I., I explored how systems designed for the security of web users and services (such as reCAPTCHAs) contribute to improving A.I. systems, even in the military sphere, generating a short circuit between what is supposed to be for protection and security purposes and what instead exploits human skills to train this technology; between what is used to recognise a human being from a bot and what instead helps bots to imitate human beings, in an increasingly accurate and alarming manner.

From all this, critical questions arise about ethics, transparency, the unconscious exploitation of people and our future.

Presentation

This project investigates artificial intelligence's (A.I.) inexhaustible hunger for data and its need to be trained, by labelling and describing this data, repeated millions of times by underpaid workers or by the online activities of Internet users, often without their knowledge.
This work - consisting of original photographs, archive photographs, video game frames, video frames from the perspective of war drones and generated images - explores how the I.A. feeds on this information, even in a devious way, for instance through the so-called CAPTCHA (Completely Automated Public Turing-test-to-tell Computers and Humans Apart), which requires the user connecting online to a site or service to write down what letters or numbers are present in a sequence, often distorted or blurred on the screen, that in theory would not be recognisable by an automated system (or bot).

In later and more advanced versions, such as reCAPTCHA, users began to be asked, in a seemingly innocuous way, to identify objects within images, such as cars, traffic signs, traffic lights, people or animals, which, in addition to recognising whether the user is a human being, provide useful information for training artificial intelligence systems (1), improving their ability to recognise and understand visual content. It goes without saying that this information, which is repeated countless times every day all over the world, can also be an important resource for improving many A.I. based technologies, such as the autonomous driving systems of certain car models, but also military technologies used in warfare. Drones - which have become one of the main weapons in the war in Ukraine - especially the most advanced aerial models, can learn to move autonomously, to recognise obstacles to avoid, but also targets to hit.

In past years, it has emerged how some multinationals, which have invested more in research in this area, have started to collaborate with the US Department of Defence (2,3) in order to optimise its tools and technologies. Google's 'Project Maven' provoked much criticism and concern from the employees themselves, to the point of pushing the company to abandon it. The project did not die, however, but merely passed on to other contractors(4).

The images in this work aim to show that the act of ensuring the security of users and online services by providing information is part of a larger mechanism in which users' privacy and awareness are often overlooked. This system generates a short circuit between what would serve a security purpose and what instead exploits human skills to train an A.I.; between what serves to recognise a human being from a bot and what instead helps bots to imitate humans in an increasingly accurate and alarming manner.

This project questions issues such as transparency, ethics and the future of the interaction between humans and machines, inviting the viewer to reflect on the unconscious role each of us plays in fuelling artificial intelligence.

1 By Typing Captcha, you are Actually Helping AI’s Training (apnews.com)
2 Google Is Helping the Pentagon Build AI for Drones (theintercept.com)
3 Google is quietly providing AI technology for drone strike targeting project (gizmodo.com)
4 In Ukraine, New American Technology Won the Day. Until It Was Overwhelmed (nytimes.com)

Tower of Babel by Filippo Venturi

(english below)

Forse non sarà necessario attendere che le immagini e i video generati con l'intelligenza artificiale sommergano le fotografie e i video di documentazione, per alterare in modo irreparabile la narrazione/rappresentazione della realtà.

Già oggi le persone sono estremamente polarizzate e ogni elemento o notizia che ricevono viene digerita, modellata e subito sputata fuori per combaciare con la propria visione delle cose.

Prendiamo l'attentato al Crocus City Hall di Mosca.
Nell'istante in cui è uscita la notizia — quando ancora l'attentato era in corso e non si avevano abbastanza informazioni per comprendere cosa stava succedendo — chi già aveva una certa posizione ha stabilito che dietro c'erano gli USA e/o l'Ucraina.
Quando, poi, è uscita la rivendicazione dell'ISIS, ha stabilito che il mandante erano gli USA e/o l'Ucraina.
Quando i terroristi sono stati arrestati a poca distanza dal confine ucraino e bielorusso, ha deciso che stavano fuggendo in Ucraina.
E quando Lukashenko ha detto che hanno tentato di entrare in Bielorussia, ha pensato che avessero sbagliato strada.

Chi invece aveva la posizione opposta, ha creduto alla rivendicazione dell'ISIS e all'estraneità degli ucraini.
Ha bollato i sospetti russi verso gli ucraini come propaganda finalizzata ad accrescere l'odio dei russi verso gli ucraini.
Ha pensato che i terroristi stessero fuggendo in Bielorussia perché il confine ucraino è pieno di militari russi che lo sorvegliano.
E così via.

E per fare questo non sono serviti fotografie o video generati con l'IA.

A volte diventiamo le cose che sosteniamo pubblicamente, sui social network, e anche se, ad un certo punto, dovesse sfiorarci il dubbio, continuiamo a difenderle perché ormai la strada è stata tracciata.

Il "forse", il "non lo so" e il "mi sono sbagliato" sono diventati sintomi di debolezza.

Questo approccio così ottuso — che esclude il dubbio perché richiederebbe una sospensione sull'interpretazione dei fatti e della realtà e quindi il non poter prendere posizione sui social network, di fatto scomparendo nel silenzio dei prudenti — si ripete ogni giorno per decine di notizie e non può che portare ad una sorta di torre di Babele in cui nessuno capisce più l'altro se non ha una visione del mondo che combacia completamente.


Perhaps it will not be necessary to wait for artificial intelligence-generated images and videos to overwhelm photographs and documentation videos to irreparably alter the narrative/presentation of reality.

Already today, people are extremely polarised and every item or piece of news they receive is digested, shaped and immediately spat out to fit their own view of things.

Take for example the attack on Crocus City Hall in Moscow.
The instant the news came out — when the bombing was still in progress and not enough information was available to understand what was going on — those who already had a certain position established that it was the work of the US and/or Ukraine.
When, then, the ISIS claim came out, they established that the US and/or Ukraine were behind it.
When the terrorists were arrested a short distance from the Ukrainian and Belarusian borders, they decided they were fleeing to Ukraine.
And when Lukashenko said they tried to enter Belarus, they thought the terrorists had taken a wrong turn.

Those who took the opposite position believed the ISIS claim and the extraneousness of the Ukrainians.
They branded Russian suspicions of Ukrainians as propaganda aimed at increasing Russian hatred of Ukrainians.
They thought the terrorists were fleeing to Belarus because the Ukrainian border is full of Russian soldiers guarding it.
And so on.

And to do this we did not need AI-generated photographs and videos.

Sometimes we become the things that we publicly support, on social networks, and even if, at some point, doubt should touch us, we continue to defend them because by now the path has been traced.

The 'maybe', the 'I don't know' and the 'I was wrong' have become symptoms of weakness.

This obtuse approach — which excludes doubt because it would require suspending the interpretation of facts and reality and therefore not being able to take a position on social networks, in fact disappearing into the silence of the doubters — is repeated every day for dozens of news items and can only lead to a sort of tower of Babel in which no one understands the other anymore if they do not have a completely matching worldview.