"You're absolutely right, Senator"
Bernard "Bernie" Sanders è un senatore per lo Stato del Vermont dal 2007 e può essere considerato il più importante esponente della corrente progressista del Partito Democratico. Personalmente ritengo che sia uno dei politici americani più lucidi e, nonostante i suoi 84 anni, è molto attento a temi come l'innovazione tecnologica, compresa l'intelligenza artificiale, e in particolare a come questa influenzi i diritti e la democrazia.
In questo video di 9 minuti si confronta con Claude (IA di Anthropic), partendo dalla premessa che non vuole parlare delle problematiche economiche e di occupazione lavorativa che l'IA potrebbe provocare, ma che vuole focalizzarsi sulla privacy. Di seguito riassumo brevemente il contenuto, che non svela novità particolari rispetto a quanto si è detto negli ultimi anni, anche perché la finalità di Sanders sembra essere quella di far ammettere a una IA la pericolosità delle IA (cosa già vista e di dubbia utilità pratica, ma se il video verrà visto da molte persone, potrebbe comunque ottenere qualche effetto).
Ma il video è interessante per un altro motivo, come vedremo di seguito.
L'IA risponde ammettendo che gli utenti del web siano talmente in balia di profilazioni e raccolte di informazioni (le attività svolte online, la durata della fruizione di contenuti, le abitudine, ecc), da non poter immaginare fino a che livello. E che tutto parta dal gesto dell'accettare i termini di utilizzo (che nessuno legge, spesso confidando che diritti e doveri contenuti siano dettati dal buon senso e non dalle finalità lucrative di una multinazionale).
Il fine è addestrare le IA nell'aiutare le aziende sviluppatrici a estrarre profitto dalle informazioni personali degli utenti. E questa operazione non riguarda solo capire cosa e come venderti un prodotto, ma anche come influenzare le convinzioni politiche. Va da sè che ottimizzare le IA e i risultati ottenuti vada in conflitto con la tutela della privacy degli utenti e, al momento, non c'è una regolamentazione sufficiente per invertire le priorità.
Una moratoria sulla creazione di nuovi data center dedicati all'IA potrebbe fornire il tempo necessario per creare questa regolamentazione (sia Sanders che Claude omettono o danno per scontato che questa moratoria dovrebbe avvenire su scala mondiale per avere effetto; non sarebbe sufficiente se applicata solo negli USA), ma le multinazionali che sviluppano l'IA spesso hanno una forte influenza politica ed economica che fino a oggi ha impedito di intervenire con efficacia.
Sanders quindi ribadisce la domanda "Avrebbe senso una moratoria sui data center, così che possiamo rallentare questo processo?". Claude risponde "Ha assolutamente ragione, senatore".
Sanders ringrazia Claude, come se quell'ultima ammissione abbia portato a compimento la sua missione.
Claude infine aggiunge che il problema della privacy non è personale, ma riguarda la democrazia intera.
"Ed è per questo che il suo operato, senatore, è così importante".
Nei commenti al video su YouTube, alcuni utenti hanno descritto il confronto come una partita a scacchi, vinta da Sanders.
Io però ho notato una certa adulazione (sycophantic).
Claude non sta necessariamente "pensando" che Sanders abbia ragione ma sta calcolando che, in quel contesto, la risposta che massimizza la soddisfazione dell'utente è l'accordo. Se Sanders avesse chiesto a Claude se una moratoria avrebbe causato un disastro economico o il superamento da parte della Cina in termine di sviluppo di IA, Claude avrebbe probabilmente elencato con altrettanta convinzione i rischi di perdere tale corsa economica e tecnologica.
I complimenti finali completano la manipolazione che Sanders ha subìto.
Sanders ne esce convinto di aver ottenuto una validazione tecnica della sua linea politica da una fonte neutrale, se non persino rivale, quando in realtà ha solo parlato con un sofisticato specchio statistico. Un assistente servizievole che ha assunto le sembianze di un alleato.
