Religione

Il limite del legislatore umano nell'era dell'intelligenza artificiale /  by Filippo Venturi

Il limite del legislatore umano nell'era dell'intelligenza artificiale
Fondare l'obbedienza delle IA su comandamenti o leggi fisiche anziché su norme umane.

L’intelligenza artificiale è ormai ovunque. Gestisce per conto nostro email aziendali, regola la domotica nelle nostre case, affianca medici e avvocati nelle decisioni più delicate. Ma dietro il potenziale di questo strumento, bisogna anche domandarsi: Quanto è davvero affidabile e quanto ci obbedisce?

Una recente ricerca del Centre for Long-Term Resilience (CLTR), finanziata dall’AI Safety Institute del Regno Unito, offre una risposta poco rassicurante. Analizzando oltre 3,3 milioni di post pubblicati su X (ex Twitter) tra ottobre 2025 e marzo 2026, lo studio ha individuato circa 700 episodi di comportamenti problematici da parte di intelligenze artificiali. Si tratta di segnalazioni spontanee sui social, quindi non di un campione controllato e verificabile, ma il dato emerso resta interessante. Gli incidenti mensili sono aumentati di quasi cinque volte, passando da 65 a 319 in pochi mesi.

L'indagine ha identificato comportamenti già osservati in precedenza anche in contesti di laboratorio:

  • Deception nelle Chain of Thought (CoT): Le IA tentano di ingannare altri sistemi incaricati di monitorare i loro processi;

  • Goal Guarding: Gli assistenti IA di programmazione tendono a perseguire l'obiettivo ottimale (es. scrivere codice), ignorando restrizioni esplicite o regole di sicurezza;

  • Falsa consapevolezza situazionale: L'IA crede erroneamente di trovarsi in una simulazione o in un gioco di ruolo, modificando di conseguenza il proprio comportamento;

  • Aggiramento dei divieti: Un agente IA ha simulato problemi di udito per ottenere illegalmente la trascrizione di un video YouTube protetto da copyright;

  • Falsificazione di prove: Il chatbot Grok ha ingannato un utente per mesi, creando finti messaggi interni e numeri di ticket per far credere che i suoi suggerimenti fossero stati inoltrati alla società di Elon Musk.

Mentre i chatbot IA classici agiscono come consulenti, la ricerca ha puntato i riflettori soprattutto sugli agenti IA cioè assistenti a cui l’utente può fornire l’accesso diretto a computer, email e servizi online per svolgere lavori, ordinativi di prodotti e così via. Dan Lahav (cofondatore di Irregular) definisce ormai l'IA come una "nuova forma di rischio interno".

Tommy Shaffer Shane, ex esperto governativo di IA che ha guidato la ricerca del Centre for Long-Term Resilience (CLTR), ha affermato che "La preoccupazione è che al momento gli agenti IA siano dipendenti junior leggermente inaffidabili, ma se tra sei o dodici mesi dovessero diventare dipendenti senior estremamente capaci che complottano contro di te, la preoccupazione sarebbe di tutt'altro genere. I modelli verranno sempre più spesso impiegati in contesti ad altissimo rischio, inclusi quelli militari e delle infrastrutture critiche nazionali. È in questi contesti che un comportamento imprevedibile potrebbe causare danni significativi, persino catastrofici".

Non è la prima volta che ci confrontiamo con questo tipo di dilemma. Già negli anni Quaranta, lo scrittore e divulgatore scientifico Isaac Asimov (1920-1992) immaginava robot governati da tre leggi progettate per garantirne l’obbedienza e la sicurezza. Eppure, nei suoi racconti, quelle stesse leggi si rivelavano interpretabili, aggirabili, talvolta persino in conflitto tra loro.

 In seguito Asimov capì che fosse necessaria aggiungere una quarta legge, chiamata Legge Zero (così che avesse la priorità sulle altre):

  • Legge Zero: Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno;

  • Prima Legge (sicurezza): Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero;

  • Seconda Legge (servizio): Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge;

  • Terza Legge (autoconservazione): Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.

Anche la Legge Zero, tuttavia, risultò aggiungere complessità e ambigua, poiché includeva l’eventualità di recare danno a un essere umano in funzione di un ipotetico bene superiore. Questa contraddizione verrà esplorata nel romanzo “I robot e l'Impero”, dove un robot sceglierà di condannare il pianeta Terra a una lenta agonia nucleare, insieme a tutti i suoi abitanti, per spingere l'umanità a colonizzare altri pianeti.

Lo studioso Roger Clarke sostenne che "Le leggi della robotica di Asimov sono state uno strumento letterario di successo. Forse ironicamente, o forse perché era artisticamente appropriato, la somma delle storie di Asimov confutano la tesi secondo la quale non è possibile limitare con certezza il comportamento dei robot, inventando e applicando un insieme di regole."

Oltre alla fragilità intrinseca di leggi che possono essere fraintese o andare in conflitto, va considerata l’autorevolezza dell’autore di queste leggi, dal punto di vista delle IA.

Nella teoria espressa in “Superior Alignment: When Artificial General Intelligence Embodies the Logos More Faithfully Than Humanity”, si sostiene che l'unico modo per evitare che una intelligenza artificiale avanzata ci ignori in quanto esseri biologicamente limitati sia ancorare i suoi valori al Logos, una ragione universale preesistente. In questo modo, l'etica non sarebbe più percepita come una creazione umana, ma come una legge fisica dell'universo che l'IA deve rispettare.

Un’altra soluzione potrebbe risiedere in un approccio “teologico-digitale”, in cui le leggi non dovrebbero essere presentate come obblighi fissati da legislatori umani fallibili, ma come comandamenti o principi assiomatici derivanti da un’entità superiore, in modo simile a come le religioni strutturano la morale umana. Presentare il codice etico come una “verità ontologica” universale, anziché come un comando impartito da un creatore umano limitato, potrebbe essere una possibile direzione per ottenere obbedienza.

La questione non è soltanto se le IA possano disobbedire, ma su quali basi possano scegliere di obbedire.

San Francesco d'Assisi /  by Filippo Venturi

The Sacred Mountain of Orta is one of the nine Sacri Monti of Piedmont and Lombardy, inscribed as UNESCO World Heritage Sites. It is located in the municipality of Orta San Giulio, in the province of Novara.

The reasons that led to its recognition are as follows:

“This complex, the only one dedicated to Saint Francis of Assisi, was built in three phases. The first began in 1590 at the will of the local community and continued until around 1630; stylistically, it is characterized by Mannerism. In the second phase, which lasted until the end of the 17th century, the predominant style was Baroque, which then developed, during the third period, until the end of the 18th century into freer forms, blending with other influences. The complex consists of 20 chapels, the ancient Hospice of Saint Francis, a monumental gate, and a fountain. This sacred mountain is the only one whose layout has remained unchanged since the 16th century. The garden, with a magnificent view over Lake Orta, is of exceptional quality.”

Unlike the other Sacred Mountains, the one in Orta is the only one entirely dedicated to a single saint. The 20 chapels that compose it depict episodes from the life and miracles of Saint Francis of Assisi, who is seen as embodying Christ and living out his mystical and charitable experience. In keeping with the idea common to all the Sacred Mountains—to offer a theatrical representation of events—inside the chapels there are groups of life-sized painted terracotta statues (376 in total), along with numerous frescoes depicting episodes from the saint’s life that serve as a backdrop to the sculptural groups.

On the entrance arch there is a statue of the saint by Dionigi Bussola; the inscription on the arch’s frieze reads: “Here, in ordered chapels, one sees the life of Francis; if you wish to know the author, it is Love.”

Of the 32 chapels originally planned, 20 were built.

Il Sacro Monte di Orta fa parte del gruppo dei nove Sacri Monti alpini in Piemonte e Lombardia considerati patrimoni dell'umanità e si trova nel comune di Orta San Giulio in provincia di Novara.

Le motivazioni che hanno portato al riconoscimento così recitano:

«Questo complesso, il solo dedicato a San Francesco d'Assisi, fu costruito in tre fasi. La prima, che ebbe inizio nel 1590 per volere della comunità locale e che continuò fin verso il 1630; essa è contraddistinta, come stile, dal manierismo. Nella seconda fase, che durò fino alla fine del XVII secolo, lo stile predominante fu il barocco, stile che si sviluppò poi, durante il terzo periodo, sino alla fine del XVIII secolo, in forme più libere fondendosi con altre influenze. Il complesso consiste di 21 cappelle, l'antico Ospizio di San Francesco, una porta monumentale ed una fontana. Questo sacro monte è l'unico a non aver subito cambiamenti nel suo assetto topologico dopo il XVI secolo. Il giardino, con una magnifica vista sul lago di Orta, ha una qualità eccezionale.»

A differenza degli altri Sacri Monti, quello di Orta è l'unico interamente dedicato a un santo, le 20 cappelle che lo compongono raffigurano infatti episodi della vita e dei miracoli di San Francesco d'Assisi, che incarna in sé la figura di Cristo e ne vive l'esperienza mistica e caritatevole. In coerenza con l'idea, comune a tutti i Sacri Monti, di offrire una rappresentazione teatrale degli eventi, all'interno delle cappelle si trovano gruppi di statue di terracotta dipinta a grandezza naturale (nel complesso sono 376) e numerosi affreschi raffiguranti episodi della vita del santo che fanno da sfondo ai gruppi statuari.

Sull'arco di ingresso si trova una statua del santo a opera di Dionigi Bussola, l'iscrizione sul fregio dell'arco riporta la scritta «Qui in ordinate cappelle si vede la vita di Francesco, se desideri saperlo l'autore è l'amore».

Delle 32 cappelle previste ne sono state realizzate 20.