Privacy

"Non ho nulla da nascondere" può essere una risposta pericolosa by Filippo Venturi

Di fronte a forme di controllo esercitate in nome della sicurezza, in un’epoca in cui sorveglianza biometrica e riconoscimento facciale si diffondono rapidamente e silenziosamente, una delle reazioni più comuni è: “Non ho nulla da nascondere”.

È una risposta comprensibile, ma parte da un equivoco. La privacy infatti non riguarda soltanto la possibilità di tenere segreto qualcosa di illecito o imbarazzante. Riguarda anche il controllo su chi raccoglie informazioni su di noi, sul modo in cui vengono interpretate e sulle conseguenze che possono produrre.

IL POTERE DI DEFINIRE E CATALOGARE

La sorveglianza biometrica, in particolare, non si limita a registrare ciò che facciamo. Può collegare (e l’intelligenza artificiale agevola questo processo) il nostro volto a spostamenti, relazioni, abitudini e altri dati, trasformandoli in un profilo sulla base del quale vengono prese decisioni.

Un’informazione del tutto innocua, se estratta dal suo contesto e associata ad altri elementi o elaborata da un sistema fallibile (come è qualsiasi sistema), può generare sospetti, errori o discriminazioni difficili da riconoscere e ancora più difficili da contestare. Il problema, quindi, non è soltanto ciò che abbiamo da nascondere, ma il potere che altri acquisiscono su di noi e con cui possono definirci o catalogarci.

DAL PANOPTICON ALL’AUTOCENSURA

Ma la sorveglianza non agisce soltanto dall’esterno, attraverso i profili e le decisioni costruiti su di noi. Può influenzare anche il modo in cui ci comportiamo. Quando sappiamo, o anche solo immaginiamo, di poter essere osservati e identificati, tendiamo a evitare azioni, opinioni o frequentazioni che potrebbero essere fraintese, pur essendo perfettamente legittime.

È questo uno degli aspetti che Michel Foucault analizza in Sorvegliare e punire (1975), riprendendo il modello del Panopticon, una prigione ideata alla fine del Settecento dal filosofo e giurista Jeremy Bentham, che lo considerava uno strumento innovativo ed efficiente. L’edificio prevedeva una torre centrale dalla quale una guardia poteva osservare tutte le celle disposte intorno, mentre i detenuti non potevano sapere se in quel momento fossero effettivamente sorvegliati. L’incertezza li induceva quindi a comportarsi come se lo fossero sempre.

Per Foucault, il Panopticon descrive una forma di potere che non ha bisogno di controllare ogni persona in ogni momento: è sufficiente rendere permanente la possibilità dello sguardo. Chi si sente potenzialmente osservato finisce così per adeguare autonomamente il proprio comportamento, anticipando il giudizio o l’intervento dell’autorità.

Un fenomeno analogo viene oggi studiato attraverso il concetto di chilling effect, letteralmente “effetto raggelante”, in cui la percezione di essere sorvegliati può spingere le persone a rinunciare a comportamenti del tutto legittimi, come cercare informazioni su temi sensibili, esprimere opinioni controverse o partecipare a manifestazioni. Dopo le rivelazioni di Edward Snowden del 2013 sui programmi di sorveglianza di massa della NSA, alcuni studi hanno registrato una diminuzione nella consultazione di pagine di Wikipedia legate al terrorismo e alla sicurezza e una contrazione delle ricerche Google considerate sensibili, interpretandole come possibili forme di autocensura prodotte dalla consapevolezza di poter essere monitorati.

LA PRIVACY COME TUTELA DELL’AUTONOMIA

La sorveglianza, quindi, non riguarda soltanto chi commette un illecito ma può limitare concretamente anche la libertà di chi non ha nulla da nascondere. Come ha spiegato il giurista Daniel Solove, la privacy non coincide semplicemente con il diritto di nascondere un segreto. Serve anche a impedire che informazioni raccolte per uno scopo vengano riutilizzate per altri, che dati inesatti diventino permanenti o che qualcuno definisca la nostra identità attraverso categorie e criteri che non conosciamo.

Nel riconoscimento facciale questo rischio è aggravato dal fatto che il volto non può essere sostituito come una password e che i sistemi possono presentare tassi di errore sensibili. La domanda, dunque, non dovrebbe essere soltanto “ho qualcosa da nascondere?” ma anche “chi raccoglie questi dati, secondo quali criteri li interpreta, con chi li condivide, per quanto tempo li conserva e come posso difendermi se sono sbagliati?”.

La funzione della privacy non è garantire l’impunità a chi commette un illecito, ma tutelare l’autonomia, la possibilità di cambiare idee e comportamenti senza restare prigionieri del proprio passato e il diritto a non essere ridotti a un punteggio o a un profilo.

Una immagine dal mio lavoro “Broken Mirror” (realizzato con l’IA), sulla dittatura nordcoreana e sulla natura invasiva e controllante della tecnologia.

Il riconoscimento facciale in Italia by Filippo Venturi

Fotografia dal lavoro “Faceless Generation” di Filippo Venturi

Il riconoscimento facciale in Italia potrebbe essere utilizzato anche su persone che non hanno commesso alcun reato.

Lo schema di decreto con cui il Governo intende adeguare la normativa italiana all’AI Act europeo al momento prevede che, in luoghi o durante eventi considerati sensibili (ad esempio stazioni, concerti, manifestazioni o grandi eventi), i sistemi di videosorveglianza possano raccogliere e conservare temporaneamente i dati biometrici delle persone presenti.

Questi dati potrebbero rimanere memorizzati fino a sette giorni. Se nel frattempo venisse accertato un reato, potrebbero essere utilizzati per cercare e identificare il sospettato; altrimenti dovrebbero essere cancellati. Nel sistema ipotizzato dal decreto, però, questa elaborazione potrebbe avvenire automaticamente su tutte le persone che entrano in un determinato luogo, prima che sia stato commesso un reato e indipendentemente dall’esistenza di sospetti nei loro confronti.

Il Garante per la protezione dei dati personali ritiene che questo passaggio non sia coerente con l'AI Act. Il regolamento europeo consente infatti il riconoscimento facciale a posteriori alle forze dell’ordine per effettuare ricerche mirate, collegate a un reato già avvenuto e rivolte a persone sospettate. Non autorizza, invece, la creazione preventiva e indiscriminata dei dati biometrici di chiunque attraversi uno spazio pubblico. La differenza è sostanziale.

Una cosa è conservare le registrazioni di una telecamera e, dopo un reato, analizzare soltanto le immagini pertinenti alla ricerca di uno specifico sospettato. Un’altra è estrarre in anticipo i dati biometrici di migliaia di persone non sospettate né indagate, nell’eventualità che nei giorni successivi possa accadere qualcosa. Nel primo caso esiste un’indagine e si cerca una determinata persona. Nel secondo, l’intera popolazione presente in un luogo viene preventivamente resa identificabile.

Per questo il Garante ha chiesto che l’elaborazione biometrica avvenga esclusivamente dopo la commissione di un reato, sulle registrazioni già esistenti e in presenza di una specifica necessità investigativa. Ha inoltre avvertito che formule molto ampie come “esigenze di ordine e sicurezza pubblica” potrebbero legittimare una raccolta massiva e sproporzionata dei dati biometrici.

l parere del Garante sullo schema di decreto è complessivamente favorevole, ma pone come condizione la modifica di questo e di altri aspetti. Vedremo quindi se e come il testo verrà corretto prima dell’approvazione definitiva.

You're absolutely right, Senator by Filippo Venturi

"You're absolutely right, Senator"

Bernard "Bernie" Sanders è un senatore per lo Stato del Vermont dal 2007 e può essere considerato il più importante esponente della corrente progressista del Partito Democratico. Personalmente ritengo che sia uno dei politici americani più lucidi e, nonostante i suoi 84 anni, è molto attento a temi come l'innovazione tecnologica, compresa l'intelligenza artificiale, e in particolare a come questa influenzi i diritti e la democrazia.

In questo video di 9 minuti si confronta con Claude (IA di Anthropic), partendo dalla premessa che non vuole parlare delle problematiche economiche e di occupazione lavorativa che l'IA potrebbe provocare, ma che vuole focalizzarsi sulla privacy. Di seguito riassumo brevemente il contenuto, che non svela novità particolari rispetto a quanto si è detto negli ultimi anni, anche perché la finalità di Sanders sembra essere quella di far ammettere a una IA la pericolosità delle IA (cosa già vista e di dubbia utilità pratica, ma se il video verrà visto da molte persone, potrebbe comunque ottenere qualche effetto).

Ma il video è interessante per un altro motivo, come vedremo di seguito.

L'IA risponde ammettendo che gli utenti del web siano talmente in balia di profilazioni e raccolte di informazioni (le attività svolte online, la durata della fruizione di contenuti, le abitudine, ecc), da non poter immaginare fino a che livello. E che tutto parta dal gesto dell'accettare i termini di utilizzo (che nessuno legge, spesso confidando che diritti e doveri contenuti siano dettati dal buon senso e non dalle finalità lucrative di una multinazionale).

Il fine è addestrare le IA nell'aiutare le aziende sviluppatrici a estrarre profitto dalle informazioni personali degli utenti. E questa operazione non riguarda solo capire cosa e come venderti un prodotto, ma anche come influenzare le convinzioni politiche. Va da sè che ottimizzare le IA e i risultati ottenuti vada in conflitto con la tutela della privacy degli utenti e, al momento, non c'è una regolamentazione sufficiente per invertire le priorità.

Una moratoria sulla creazione di nuovi data center dedicati all'IA potrebbe fornire il tempo necessario per creare questa regolamentazione (sia Sanders che Claude omettono o danno per scontato che questa moratoria dovrebbe avvenire su scala mondiale per avere effetto; non sarebbe sufficiente se applicata solo negli USA), ma le multinazionali che sviluppano l'IA spesso hanno una forte influenza politica ed economica che fino a oggi ha impedito di intervenire con efficacia.

Sanders quindi ribadisce la domanda "Avrebbe senso una moratoria sui data center, così che possiamo rallentare questo processo?". Claude risponde "Ha assolutamente ragione, senatore".

Sanders ringrazia Claude, come se quell'ultima ammissione abbia portato a compimento la sua missione.
Claude infine aggiunge che il problema della privacy non è personale, ma riguarda la democrazia intera.
"Ed è per questo che il suo operato, senatore, è così importante".

Nei commenti al video su YouTube, alcuni utenti hanno descritto il confronto come una partita a scacchi, vinta da Sanders.
Io però ho notato una certa adulazione (sycophantic).

Claude non sta necessariamente "pensando" che Sanders abbia ragione ma sta calcolando che, in quel contesto, la risposta che massimizza la soddisfazione dell'utente è l'accordo. Se Sanders avesse chiesto a Claude se una moratoria avrebbe causato un disastro economico o il superamento da parte della Cina in termine di sviluppo di IA, Claude avrebbe probabilmente elencato con altrettanta convinzione i rischi di perdere tale corsa economica e tecnologica.

I complimenti finali completano la manipolazione che Sanders ha subìto.

Sanders ne esce convinto di aver ottenuto una validazione tecnica della sua linea politica da una fonte neutrale, se non persino rivale, quando in realtà ha solo parlato con un sofisticato specchio statistico. Un assistente servizievole che ha assunto le sembianze di un alleato.


Se desideri approfondire il rapporto tra fotografia, informazione e intelligenza artificiale — tra ricerca visiva, implicazioni etiche e trasformazioni del linguaggio contemporaneo — puoi consultare la seguente pagina, dove raccolgo riflessioni, progetti, articoli e informazioni aggiornate su seminari, workshop e incontri pubblici in cui esploro questo tema:

👉 www.filippoventuri.photography/intelligenza-artificiale