Software denudatori, quando l’IA riscrive i corpi

View fullsize

SOFTWARE DENUDATORI
Quando l’IA riscrive i corpi

Grok, l’intelligenza artificiale di Elon Musk, interpellabile sul social network X (ex Twitter), consente da qualche tempo di modificare in pochi secondi le fotografie condivise da altri utenti, pubblicando direttamente il risultato sulla piattaforma.

Così può capitare che una ragazza condivida una propria fotografia e gli utenti, nei commenti, chiedano a Grok di mostrarla in bikini, di farla diventare un uomo, di mostrarne il viso che nella foto originale era celato (il viso generato, presumibilmente, è inventato e non quello reale; ma non sarebbe difficile istruire una IA a cercare altre foto nel profilo di quella ragazza per risalire al viso e inserirlo nell'immagine generata) e così via.

Se è facilmente intuibile quali possano essere le conseguenze negative di questa nuova possibilità, non è ben chiaro quali siano quelle positive. Prima o poi ci scapperà qualche post divertente, e poi? Tutti gli altri deepfake che effetto avranno?

Ufficialmente Grok è stato limitato dai suoi sviluppatori in modo che non possa generare deepfake pornografici; eppure è già capitato che abbia generato immagini pornografiche con ragazze minorenni. Sulla questione è intervenuto anche il governo indiano, che ha chiesto a Musk di porre rimedio (link 1).

Operazioni di denudazioni femminili sono possibili anche con le IA generative di Google e ChatGPT (link 2).

Ovviamente il fenomeno dei deepfake esisteva anche prima, ma richiedeva competenze non comuni. Rendere questa attività alla portata di chiunque sappia scrivere un commento cambia le cose. Forse l'unico pregio (molto relativo, non risolutivo e forse utopistico) è che impareremo a prestare più attenzione a quello che condividiamo online.

Nonostante polemiche e indagini, e le promesse di porvi rimedio, Grok viene usato per produrre in modo sistematico immagini di donne in bikini e in biancheria intima. I ricercatori stimano che Grok sia diventato il più grande creatore di immagini deepfake a sfondo sessuale (link 3).

Come se non bastasse, la domanda per questo tipo di contenuti è così elevata che esistono aziende specializzate nello sviluppo di software "denudatori" (basati su intelligenza artificiale, che prendono online foto di donne, anche minorenni, le denudano e le collocano in contesti pornografici). Due di queste aziende hanno lasciato i loro database aperti e visibili a chiunque con un minimo di conoscenze tecniche (link 4).

Questo tipo di reato è già punibile in diversi casi (in parte dipende dall’eventuale condivisione o pubblicazione, ma non solo), ma l’accessibilità e la scala con cui queste tecnologie operano rendono l’applicazione delle norme esistenti complessa e spesso inefficace. A meno che non si intervenga alla radice, sulla regolamentazione dell’uso delle intelligenze artificiali in contesti delicati come il suddetto.

Parlare chiaro oggi significa dire “stronzo”?

Le risposte diventate virali del comico Enzo Iacchetti a Eyal Mizrahi, presidente dell'associazione Amici d'Israele, nel programma Carta Bianca di Bianca Berlinguer, mi hanno fatto ripensare ad alcuni temi.

Il linguaggio della politica (e dei media) si è radicalizzato da tempo. I social hanno accelerato una dinamica che già esisteva: il messaggio breve, diretto, spesso aggressivo funziona meglio dell’argomentazione lunga e complessa. Chi grida, semplifica o insulta ottiene più attenzione. Questo rende più difficile per chi vuole ragionare con calma avere spazio e trovare ascolto in fruitori che hanno la soglia di attenzione di un reel.

Dire "stronzo" a qualcuno che banalizza un genocidio può sembrare l’unica reazione comprensibile. Da un lato scuote e segnala un confine invalicabile; dall’altro, però, rischia di rafforzare proprio la dinamica suddetta.

Anche io ho subìto questi effetti e sono cambiato: anni fa avrei criticato una reazione scomposta come quella di Iacchetti. L'altra sera invece l'ho trovata efficace, necessaria, persino esaltante. Sarà stata la frustrazione verso la lentezza nel riconscere qualcosa che è sotto gli occhi di tutti da mesi in Palestina, sarà stata la spocchia con cui Eyal Mizrahi ribatteva ("Definisca bambino") o altro ancora.

Da tempo una certa parte politica italiana viene criticata per la comunicazione inefficace e irrilevante; se adottassero i toni di Trump e altri politici e partiti sulla cresta dell'onda, potrebbero farsi sentire di più, ma contribuirebbero a normalizzare ulteriormente un linguaggio violento e banalizzante.

Chi mantiene la complessità perde, chi la abbandona diventa credibile. Ma se la politica e il dibattito si riducono a una gara di slogan, rischiamo di restare senza chi sappia dare voce alle sfumature, alle contraddizioni e alla realtà che non entra in un reel. Ed è proprio lì che si gioca la qualità della nostra democrazia (finché durerà).

L'abbondanza di informazioni e contenuti a cui abbiamo accesso e le risorse non illimitate del nostro cervello hanno prodotto l'unico risultato possibile: ridurre la complessità, semplificare le prese di posizione e bypassare il confronto per finire con l'odiare chi è diverso da noi, anche solo per le idee.

Non mi viene in mente una soluzione praticabile, oggi. In modo utopistico mi domando se, come società, sarebbe il caso di rinunciare a quei mezzi di comunicazione che non informano ma polarizzano, non chiariscono ma estremizzano, e che, paradossalmente, rendono impossibile ogni confronto di idee perché ci spingono a prendere posizione quotidianamente, senza poter cambiare idea.

Olimpiadi di Parigi 2024 e Fake News

Oggi vicinanza ad Angela Carini.

Domani (forse) scopriremo che anche Imane Khelif è vittima di una narrazione che l'ha dipinta come un uomo che ha fatto irruzione alle olimpiadi, fra le donne. E invece ha affrontato situazioni complesse e persino dolorose, senza trarre chissà quale beneficio dalla sua condizione, in quanto a risultati sportivi (basta guardare il suo palmares).

Dopodomani tireremo lo sciacquone, perché in fondo non ci interessa di loro, ma vogliamo solo posizionarci socialmente e digeriremo un'altra vicenda attuale.

(Si, pure io lo sto facendo con questo post)

---

Le Olimpiadi di Parigi 2024 ci hanno confermato che non è necessaria l'intelligenza artificiale per generare scandali e polemiche, spesso basati su falsità o sul nulla. E' sufficiente creare storie sensazionalistiche oppure ingiuste che confermano qualche nostro pregiudizio (bias), così da spingerci a parlarne (e a diffonderle) senza attendere approfondimenti o senza verificare personalmente. In particolare diverse fake news hanno come finalità attaccare le persone queer.

1) Le foto delle nuotatrici con sul costume, ad altezza genitali, la scritta "not a dude" (non sono un maschio) sono dei fotomontaggi. Non è mai avvenuta una protesta contro la presenza di persone trans alle Olimpiadi, come si è cercato di far credere.

2) La pugilessa algerina Imane Khelif non è un uomo e non è un trans. E' una donna il cui corpo produce più testosterone della media. Aveva già partecipato a tornei di boxe femminile, ottenendo risultati a volte modesti a volte buoni, venendo sconfitta da altre pugilesse. Si allena con le pugilesse donne, che quindi la conoscono. Non è un uomo che ha fatto irruzione alle Olimpiadi negli sport femminili, insomma.

P.S. L'Algeria non riconosce la transizione di genere, criminalizza l'omosessualità ed è sotto la guida di un regime autoritario, quindi se Imane Khelif fosse un trans, non sarebbe alle Olimpiadi ma in carcere.

3) Un ballerino, al banchetto con le drag queen, avrebbe mostrato un testicolo durante la cerimonia inaugurale delle Olimpiadi. In realtà si tratta di un buco nelle calze.

4) Il tiratore turco Yusuf Dikec non è un meccanico che è arrivato alle Olimpiadi un po' per caso. E' un atleta che fa uso di meno tecnologia, rispetto ad altri, ma non ha caratteristiche fuori dal comune. Nella sua carriera ha numerose vittorie. Però la sua storia sarebbe risultata meno sbalorditiva se non si fosse associato al suo look sobrio un passato da uomo comune e lontano dall'ambiente delle gare con pistola ad aria.

5) Il politico di Fratelli d’Italia, Lucio Malan, ha denunciato su Twitter la presenza di un elemento, un vitello d'oro, all'inaugurazione delle olimpiadi, che sarebbe risultato il simbolo di un attacco alla cristianità, ignaro che si tratti di toro di bronzo e che sia una scultura presente a Parigi dal 1937.