Software denudatori, quando l’IA riscrive i corpi

View fullsize

SOFTWARE DENUDATORI
Quando l’IA riscrive i corpi

Grok, l’intelligenza artificiale di Elon Musk, interpellabile sul social network X (ex Twitter), consente da qualche tempo di modificare in pochi secondi le fotografie condivise da altri utenti, pubblicando direttamente il risultato sulla piattaforma.

Così può capitare che una ragazza condivida una propria fotografia e gli utenti, nei commenti, chiedano a Grok di mostrarla in bikini, di farla diventare un uomo, di mostrarne il viso che nella foto originale era celato (il viso generato, presumibilmente, è inventato e non quello reale; ma non sarebbe difficile istruire una IA a cercare altre foto nel profilo di quella ragazza per risalire al viso e inserirlo nell'immagine generata) e così via.

Se è facilmente intuibile quali possano essere le conseguenze negative di questa nuova possibilità, non è ben chiaro quali siano quelle positive. Prima o poi ci scapperà qualche post divertente, e poi? Tutti gli altri deepfake che effetto avranno?

Ufficialmente Grok è stato limitato dai suoi sviluppatori in modo che non possa generare deepfake pornografici; eppure è già capitato che abbia generato immagini pornografiche con ragazze minorenni. Sulla questione è intervenuto anche il governo indiano, che ha chiesto a Musk di porre rimedio (link 1).

Operazioni di denudazioni femminili sono possibili anche con le IA generative di Google e ChatGPT (link 2).

Ovviamente il fenomeno dei deepfake esisteva anche prima, ma richiedeva competenze non comuni. Rendere questa attività alla portata di chiunque sappia scrivere un commento cambia le cose. Forse l'unico pregio (molto relativo, non risolutivo e forse utopistico) è che impareremo a prestare più attenzione a quello che condividiamo online.

Nonostante polemiche e indagini, e le promesse di porvi rimedio, Grok viene usato per produrre in modo sistematico immagini di donne in bikini e in biancheria intima. I ricercatori stimano che Grok sia diventato il più grande creatore di immagini deepfake a sfondo sessuale (link 3).

Come se non bastasse, la domanda per questo tipo di contenuti è così elevata che esistono aziende specializzate nello sviluppo di software "denudatori" (basati su intelligenza artificiale, che prendono online foto di donne, anche minorenni, le denudano e le collocano in contesti pornografici). Due di queste aziende hanno lasciato i loro database aperti e visibili a chiunque con un minimo di conoscenze tecniche (link 4).

Questo tipo di reato è già punibile in diversi casi (in parte dipende dall’eventuale condivisione o pubblicazione, ma non solo), ma l’accessibilità e la scala con cui queste tecnologie operano rendono l’applicazione delle norme esistenti complessa e spesso inefficace. A meno che non si intervenga alla radice, sulla regolamentazione dell’uso delle intelligenze artificiali in contesti delicati come il suddetto.

Nota dell'Autore

View fullsize

Una immagine dal mio lavoro “Handbook of escape”, generata con l’IA /// An image from my work “Handbook of Escape”, generated with AI.

---

Nota dell’autore

Ho scelto di inserire questa Nota per chiarire come utilizzo l’intelligenza artificiale (IA) nei miei testi. Così come auspico trasparenza per le immagini generate con IA (soprattutto quando imitano la fotografia, in particolare in questa fase storica), la ritengo importante anche nella scrittura. Mi piacerebbe che indicazioni di questo tipo comparissero più spesso anche nei giornali e nelle altre fonti che consulto, magari accompagnate da dettagli specifici nel caso di un uso più esteso o diversificato di questa tecnologia.

Nei miei articoli utilizzo strumenti basati sull’intelligenza artificiale come assistenti editoriali, ma le idee, le interpretazioni e le connessioni concettuali sono interamente umane e frutto della mia ricerca personale.

Impiego l’IA nella fase di revisione della bozza per individuare eventuali errori grammaticali, refusi o imprecisioni concettuali, verificare la correttezza di date e riferimenti, valutare la chiarezza del testo per un pubblico che potrebbe non conoscere i temi trattati (sigle, acronimi, termini tecnici) e ridurre le ripetizioni.

Valuto e verifico sempre ogni suggerimento dell’IA, consapevole che in alcuni casi può generare errori o “allucinazioni”, cioè dati inventati o distorti. Nessuna modifica proposta viene applicata automaticamente.

Non la utilizzo per generare contenuti originali, elaborare tesi o formulare giudizi. Ogni argomento, esempio e analisi proviene dal mio lavoro, dalla mia esperienza diretta o da fonti verificabili.

Credo che il ruolo dell’autore oggi non sia quello di escludere la tecnologia, ma di governarla in modo consapevole e trasparente.

È importante aggiornare o modificare la Nota in funzione dell’uso effettivo dell’IA, così che resti uno strumento di trasparenza autentica e non una formula di rito.

---

Author’s Note

I chose to include this note to clarify the way in which I use artificial intelligence (AI) in my writing. Just as I advocate for transparency in AI-generated images (especially when they imitate photography), I believe it is equally important in written work. I would like to see such statements appear more frequently in newspapers and other sources I consult — ideally accompanied by specific details when this technology is used more extensively or in diverse ways.

In my articles, I use AI tools as editorial assistants, but the ideas, interpretations, and conceptual connections are entirely human and the result of my own research.

I employ AI during the draft revision phase to identify possible grammatical errors, typos, or conceptual inaccuracies; to check the accuracy of dates and references; to assess the clarity of the text for readers who may not be familiar with the topics discussed (such as acronyms, abbreviations, or technical terms); and to reduce repetitions.

I carefully review and verify all AI suggestions, aware that in some cases it may produce errors or so-called “hallucinations,” — invented or distorted information. No proposed change is ever applied automatically.

I do not use AI to generate original content, develop theses, or formulate judgments. Every topic, example, and analysis originates from my own work, direct experience, or verifiable sources.

I believe the author’s role today is not to exclude technology, but to govern it consciously and transparently.

It is important to update or modify this note according to the actual use of AI, so that it remains a genuine instrument of transparency rather than a mere formality.